Gentile Direttore,
nel prossimo Codice di deontologia medica verrà trattato il tema dell’intelligenza artificiale (IA). L’iniziativa, annunciata dal Presidente della FNOMCeO Filippo Anelli e riportata dal Quotidiano Sanità, è opportuna e lodevole. Rappresenta la necessità di coniugare la deontologia con l’attività assistenziale basata sulle applicazioni dell’IA. A fronte del pragmatismo tecnocratico, si pone l’esigenza di un agire dell’uomo come attore morale libero e responsabile. Nel rispetto della relazione di cura che il vigente Codice deontologico richiama puntualmente.

Le applicazioni dell’IA abitano già il sistema sanitario apportando miglioramenti sull'efficienza; automatizzando le attività di routine e diminuendo i costi; ampliando l'accesso all'erogazione dell’assistenza; assistendo i medici nei processi decisionali; innovando i tradizionali processi di valutazione.

Si sollevano, tuttavia, nuove questioni che le autorità di regolamentazione e i decisori pubblici devono ora affrontare. Una di queste sfide è che l'IA sta diventando un nuovo o prevalente decisore. Ciò aggiunge un attore, con un ruolo decisionale sul destino dei pazienti e del sistema sanitario, oltre al ruolo degli operatori sanitari. Una preoccupazione etica distintiva, che deriva dall’IA applicata alla Health Technology Assessment (HTA), è l’autonomia della tecnologia con l’accentuarsi delle ripercussioni sul piano normativo e di sicurezza del paziente. Emergono interrogativi sulla responsabilità nei confronti dei pazienti e sui modi appropriati per garantire l’umanizzazione dell’assistenza e il rispetto della dignità delle persone.

Una premessa, per quanto generale, è indispensabile. Il termine “intelligenza” artificiale non designa qualità propriamente umane ma descrive funzioni che possono essere simili a quelle di un essere umano. Il malinteso di fondo è ritenere che l’agire artificiale significhi comportamento intelligente. “Quando parliamo di IA usiamo un linguaggio metaforico il cui logos è costituito da algoritmi, sequenze di comandi da seguire passo per passo come una ricetta per l’esecuzione di determinate operazioni. La rivoluzione digitale ha reso l’IA non solo possibile ma sempre più utile separando la capacità di risolvere un problema o di portare a termine un compito con successo dall’esigenza di essere intelligenti nel farlo. L’IA ha successo proprio quando è possibile realizzare tale separazione”. (L. Floridi)

L’IA si basa sulla registrazione di una immensa quantità di dati, di macchine che imparano dall’esperienza (machine learning). Dispositivi capaci di apprendimento continuo, grazie alle tecniche di deep learning, sulla base di una raccolta massiva di dati (big data). Un potente hub computazionale in grado di conservare, elaborare ed erogare enormi masse di dati, da cui attingere continuamente per gli aggiornamenti (upgrading).

Algoritmi e IA applicati allo sviluppo dell’assistenza in medicina non sono una novità. Hanno avuto, ad esempio, una rilevante importanza per la pandemia da SARS-CoV-2 nonché rappresentano un enorme potenziale per la gestione di altre emergenze e si prevede che il loro ruolo aumenterà nel futuro. L'IA e i big data possono essere utilizzati per tracciare la diffusione del virus in tempo reale, pianificare e migliorare gli interventi di salute pubblica, monitorare l'efficacia, elaborare nuovi farmaci, migliorare la risposta di comunità e territori alla pandemia, facilitare la diagnostica. Approcci emergenti (tendenze e modelli che possono essere utilizzati per costruire modelli predittivi) che possono essere applicati insieme alla sorveglianza classica (analisi e interpretazione dei dati). Singolare ricordare che grazie a un algoritmo, analizzando i dati di varie reti ed escludendo quelli confondenti dei social, è stato possibile identificare nel dicembre 2019 la prima fonte dell’epidemia a Wuhan in Cina.  

Ancora. IA dalla sperimentazione e ricerca traslazionale alla medicina personalizzata; dal virtual coaching alla predictive medicine; dalla robotica con esoscheletri per la deambulazione di pazienti tetraplegici agli interventi chirurgici anche in remoto; dalla tele-assistenza alla tele-riabilitazione; ecc. In fase di rapido sviluppo in diversi settori della medicina: dalla diagnostica di laboratorio all’imaging radiologico, dal monitoraggio dei pazienti alla stadiazione clinica. 

Fondamentale la disponibilità di dati sanitari digitali per l’uso dell’IA nella clinica. In Danimarca, ad esempio, l'evoluzione delle cartelle cliniche elettroniche in oltre 20 anni ha portato a una significativa abbondanza di dati sanitari. Sono stati raccolti in modo rigoroso e sistematico registri sui cittadini. La Danimarca è da alcuni considerata un punto di riferimento per registri di alta qualità che riguardano quasi ogni aspetto della vita. Ciononostante, i database affidabili devono affrontare anche il problema della combinazione di dati di alta qualità con quelli di scarsa qualità. Questo è problematico poiché l'IA dipende proprio dalla qualità dei dati. Un esempio, sempre in Danimarca, è dato dall’IBM Watson Oncology, un assistente medico digitale basato sull'apprendimento automatico. Ebbene, con una qualità mista di dati, ovvero buoni e scarsi insieme, fornisce raccomandazioni errate per il trattamento del cancro.

Con il ricorso all’IA si possono prendere decisioni e valutare previsioni sulla base dei dati raccolti o dei big data. Fino a “creare una nuova narrazione universale che sostiene un nuovo principio di legittimità: gli algoritmi e i big data. Il dataismo, ispirandosi a pensatori come Harari, è questa nuova narrazione. Una vera e propria fondazione di una nuova religione. Mitologia del XXI secolo. Nella sua forma estrema i fautori di questa visione del mondo dataista percepiscono l’intero universo come un flusso di dati, vedono gli organismi viventi come poco più di algoritmi biochimici.” (P. Benanti)

Si parla di profilazione con un processo decisionale automatizzato che tuttavia non può superare la virtuosa e necessaria coniugazione dell’IA con la medicina personalizzata che, diversa rispetto a quella classica più orientata verso la popolazione, tiene conto della specifica variabilità individuale del paziente.

Allora, qual è il rischio? È quello di assegnare un’assoluta priorità al “dato” rispetto alla ontologica complessità della persona e della sua singolare relazionalità. Emerge la necessità, in un più ampio orizzonte, di un “umanesimo digitale, ovvero di un’etica per l’epoca dell’IA che riconosce la peculiarità dell’essere umano e delle sue capacità.” (J. Nida-Rumlelin, N. Weidenfeld).  

Un interrogativo sostanziale. Quale potrebbe essere il quadro etico di riferimento? Si aprirebbe, a questo punto, un vasto orizzonte dialettico, di riflessioni e approfondimenti. In via preliminare possiamo riprendere i principi, enunciati dal Parlamento Europeo nella Risoluzione sulle Raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica e di quelli sanciti all’articolo 2 del Trattato sull’Unione europea e nella Carta dei diritti fondamentali dell’Unione europea. Dignità umana, uguaglianza, giustizia ed equità, non discriminazione, consenso informato, protezione dei dati. Così come i principi e i valori alla base del diritto dell'Unione come la non stigmatizzazione, la trasparenza, l'autonomia, la responsabilità individuale e sociale. E poi, accanto ai tradizionali principi di beneficenza, non maleficenza, autonomia e giustizia, il principio di esplicabilità. Quest’ultimo, di recente introduzione, si rappresenta come “il principio mancante del puzzle etico dell’IA. È il principio che include sia il senso epistemologico di intelligibilità sia il senso etico di responsabilità.” (L. Floridi).

Medicina e IA sono largamente collegate. Ed ecco il nuovo orizzonte dell’algor-etica, ovvero la necessità di un’etica per gli algoritmi. Del resto, un “buon algoritmo” non è detto che sia di per se stesso un “algoritmo buono”, cioè capace di non privarci dell’autonomia di pensiero e di spirito critico.

Nell’epoca della “rivoluzione digitale” rischiamo di delegare alla tecnologia molti processi assistenziali. Il tema è vasto e dibattuto. Occorrono aggiornamenti della deontologia medica nonché approfondite riflessioni in ambito bioetico.

Lucio Romano
Medico – Chirurgo, Componente Comitato Nazionale per la Bioetica