L’Intelligenza artificiale in Sanità non è solo utile: è indispensabile. Ma il suo uso deve essere regolato su cardini saldi. Ed è quello che tenta di fare il disegno di legge sull’IA appena approvato nel nostro Paese.
Indice degli argomenti
L’importanza dei dati in Sanità
I punti chiave del DDL sembrano riprendere, tra l’altro, lo studio sull’intelligenza artificiale nella salute che nel 2023, il governo americano attraverso il GAO ( U.S. Government Accountability Office), il dipartimento del governo USA che si occupa di accountability aveva condotto, assieme alla massima autorità scientifica di settore, la National Library of Medicine.
Da professionista della salute, medico, esperto di sanità digitale la leggo con i miei occhi, sicuramente di parte, ma di chi dovrà fare i conti con l’intelligenza artificiale nel prossimo futuro in ogni giorno della professione. In particolare, come ho detto più volte, i dati al medico servono a poco se presi tutti assieme. Non servono neppure se sono classificati, come fanno molti pazienti, in cartelline e faldoni “cardiologo”, “analisi”, “cartelle dei ricoveri”, “lastre” eccetera. I dati sono utili solo se raccontano una storia, solo se possono essere integrati per rispondere alle esigenze del curante e del paziente in quel momento specifico, in quell’incontro e per programmare il percorso diagnostico-terapeutico futuro. Ecco perché l’IA nella salute non è solo centrale, è indispensabile.
AI e Sanità nel nuovo DDL italiano
A “colpo d’occhio” i principi ed i caveat sono quelli che vorremmo. La maggior parte sono indicati nell’AI Act, la legislazione europea recente approvata, che però è un documento di 456 pagine, che richiederà almeno due anni prima di entrare nel “corpus” legislativo delle nazioni europee. Occorreva fare subito qualcosa, l’IA è qui ora. In particolare, la sanità, anche in vista del PNRR e della trasformazione digitale dei nostri sistemi sociosanitari, deve poter cogliere questa opportunità oggi e non tra due anni.
Sono 15 pagine totali, leggibili ed essenziali, la sanità nel dettaglio inizia con l’articolo 7, “Uso dell’intelligenza artificiale in ambito sanitario e di disabilità”.
La disabilità è presente dall’incipit, nel titolo dell’articolo, si parla dunque non solo di cura, non solo di SSN ma servizi sociosanitari. Questo campo è troppo spesso completamente dimenticato. In Italia, nel 2019, le persone con disabilità, ovvero coloro che soffrono a causa di problemi di salute o gravi limitazioni che impediscono loro di svolgere attività abituali, sono 3 milioni e 150 mila. Questi rappresentano il 5,2% della popolazione. Gli anziani sono i più colpiti, con quasi 1 milione e mezzo di ultrasettantacinquenni (il 22% della popolazione in quella fascia di età) in condizione di disabilità, e 1 milione di essi sono donne.
I principi basilari dell’IA in Sanità
Vengono definite ed enunciati i principi chiave. Ho letto tanti commenti e lamentele, “non si parla di soldi”, non si parla di applicazione operativa ma, a mio parere cosa deve fare una legge su questa materia in una fase inziale se non definire i principi basilari dell’applicazione? Lo si legge nell’incipit: “La presente legge reca principi in materia di ricerca, sperimentazione, sviluppo, adozione e applicazione di sistemi e modelli di intelligenza artificiale. Promuove un utilizzo corretto, trasparente e responsabile, in una dimensione antropocentrica dell’intelligenza artificiale volto a coglierne le opportunità. Garantisce la vigilanza sui rischi economici e sociali e sull’impatto sui diritti fondamentali dell’intelligenza artificiale”.
I sei principi chiave dell’IA nella sanità secondo il DDL
Sono sei i principi chiave enunciati nell’articolo 7, che riporto.
AI per una Sanità migliore
“1. L’utilizzo di sistemi di intelligenza artificiale contribuisce al miglioramento del sistema sanitario e alla prevenzione e cura delle malattie, nel rispetto dei diritti, delle libertà e degli interessi della persona, anche in materia di protezione dei dati personali”.
Ovvio? Andava scritto, l’intelligenza artificiale nel campo della salute e “buona”, è una grande opportunità, di conseguenza va promossa, incentivata, sostenuta nell’applicazione e va implementata, ma mai a discapito dei diritti della persona.
AI e accesso alle prestazioni sanitarie
“2. L’introduzione di sistemi di intelligenza artificiale nel sistema sanitario non può selezionare e condizionare l’accesso alle prestazioni sanitarie con criteri discriminatori”.
Sembrerebbe che si siano messe le mani avanti per non cadere indietro però esiste la possibilità concreta che gli algoritmi diventino discriminatori, ne abbiamo molti, troppi esempi. Non sarà facile sicuramente capire quando un algoritmo diventa discriminatorio ma è un principio che doveva essere scritto.
Il diritto a essere informati dell’uso di IA
“3. L’interessato ha diritto di essere informato circa l’utilizzo di tecnologie di intelligenza artificiale e sui vantaggi, in termini diagnostici e terapeutici, derivanti dall’utilizzo delle nuove tecnologie, nonché di ricevere informazioni sulla logica decisionale utilizzata”.
Anche questo principio è rappresentato nell’AI ACT ma dal momento che il PNRR impone di realizzare piattaforme che dovranno o potranno usare l’IA, è necessario sancire, ribadire il diritto del paziente di essere informato che le scelte della mia terapia, del mio progetto di salute, sono state fatte con l’utilizzo dell’intelligenza artificiale. La scelta ha seguito un percorso che deve essere rappresentato al paziente.
IA e disabilità
“4. La presente legge promuove lo sviluppo, lo studio e la diffusione di sistemi di intelligenza artificiale che migliorano le condizioni di vita delle persone con disabilità, agevolano l’accessibilità, l’autonomia, la sicurezza e i processi di inclusione sociale delle medesime persone anche ai fini dell’elaborazione del progetto di vita di cui all’articolo 2, comma 2, lett. a) n. 1) della legge 22 dicembre 2021, n. 227”.
Il tema della disabilità, di cui parlavo prima. E’ una delle prime volte in assoluto che lo vedo affrontato chiaramente. Il digitale, in questo caso l’IA era stato dimenticato e sottovalutato nei regolamenti attuativi del cosiddetto DL anziani, qui finalmente torna centrale, proprio sul progetto di vita, il diritto ad una vita che sia soddisfacente per tutti, anche per quel 22% di anziani con disabilità e l’IA può fare moltissimo per sostenerli, dalla domotica alle cure, fino agli “adattamenti ragionevoli” che rendono la vita più facile.
Terapia e prognosi, responsabilità al medico
“5. I sistemi di intelligenza artificiale nell’ambito sanitario costituiscono un supporto nei processi di prevenzione, diagnosi, cura e scelta terapeutica, lasciando impregiudicata la decisione, che è sempre rimessa alla professione medica”.
Anche questo è un tema di cui ho parlato più volte: IA nella salute sì, ma chi decide? Chi è responsabile? “impregiudicata la decisione sempre rimessa alla professione medica”. Un principio chiarissimo, che doveva essere scritto, per uscire dal grigio dei “sistemi esperti” delle IA che scelgono terapia e prognosi.
Affidabilità dei dati
“6. I sistemi di intelligenza artificiale utilizzati nell’ambito sanitario e i relativi dati impiegati devono essere affidabili e periodicamente verificati e aggiornati al fine di minimizzare il rischio di errori”.
Principio sacrosanto, anche questo andava scritto, quello di verifica continua ed aggiornamento. Certamente tutto il software, tutti i macchinari devono rispondere a questo principio, ma l’IA ha un aspetto particolare: si tratta di un algoritmo che si evolve, che si modifica man mano che impara e non è detto che si modifichi in meglio. Recentemente in un incontro internazionale Stanford e Mayo clinic hanno evidenziato i grandissimi rischi posti da un sistema di IA che viene valutato, introdotto e che poi, pian piano modifica le sue risposte, sulla base dei dati elaborati. Non sempre questo è un bene, ovviamente, soprattutto quando si parla di esempi già visti, come nel caso di strumenti usati ad esempio per il supporto psicologico.
La ricerca e sperimentazione scientifica nel campo dell’IA
Sulla ricerca sui temi della salute attraverso l’IA ci sono ulteriori indicazioni nell’articolo 8, Ricerca e sperimentazione scientifica nella realizzazione di sistemi di intelligenza artificiale in ambito sanitario. A mio parere su questo punto sarebbe stata necessaria una trattazione più approfondita: non vedo, ad esempio distinzioni tra anonimizzazione e pseudonominizzazione (la prima rende assolutamente avulsi i dati dal contesto personale, la seconda rende i dati utilizzabili in contesti personali, pur rendendo impossibile individuare le generalità del soggetto). La prima serve sulle popolazioni, la seconda per studi sulla personalizzazione delle cure, non avremo “Mario Rossi” ma un soggetto X, non riconducibile ad una persona fisica del mondo reale.
Il Fascicolo Sanitario elettronico e l’IA
Infine, un ultimo punto chiave, il Fascicolo Sanitario elettronico. Noi medici spesso di dati ne abbiamo anche troppi, i pazienti arrivano con sporte piene di analisi ed esami, referti, cartelle, magari classificate in faldoni. I più fortunati di noi hanno giovani assistenti che rivedono i faldoni, ma questo è riservato a pochissimi VIP sia medici sia pazienti. L’IA nel fascicolo sanitario elettronico può fare più velocemente ed a volte meglio dei giovani assistenti una valutazione del materiale, per tornare a quello che dicevo all’inizio: non si cura con i dati, ma con il racconto che possiamo creare utilizzando le informazioni.
Le disposizioni dell’art. 9 del DDL
“Articolo 9: Disposizioni in materia di fascicolo sanitario elettronico, sistemi di sorveglianza nel settore sanitario e governo della sanità digitale
1. Al decreto-legge 18 ottobre 2012, n. 179, convertito, con modificazioni, dalla legge 17 dicembre 2012, n. 221, dopo l’articolo 12 è aggiunto il seguente (…). Per il supporto alle finalità di cura, e in particolare per l’assistenza territoriale, è istituita una piattaforma di intelligenza artificiale. (…) La piattaforma di cui al primo periodo eroga servizi di supporto:
a) ai professionisti sanitari per la presa in carico della popolazione assistita;
b) ai medici nella pratica clinica quotidiana con suggerimenti non vincolanti;
c) agli utenti per l’accesso ai servizi sanitari delle Case di Comunità. (..)”
Questa parte è anche parte di una soluzione ai problemi che si erano creati dopo la richiesta di chiarimenti sulla gara per l’IA per la medicina del territorio, richiesta del garante privacy che aveva di fatto costretto AGENAS a sospendere la fase III della misura PNRR M6C1 sub-investimento 1.2.2.4 “Intelligenza Artificiale” Procedura di Dialogo Competitivo per la realizzazione della Piattaforma di Intelligenza Artificiale a supporto dell’assistenza sanitaria primaria – CIG 94572555B6.
Mi ripeto: è del tutto evidente che occorreva colmare in fretta vuoti legislativi che avrebbero potuto bloccare una evoluzione in questo settore che deve essere rapida, per non perdere molte opportunità. L’AI ACT dell’unione europea è completo e complesso ma ha bisogno di un lungo iter. Serviva muoversi velocemente e nella salute il risultato mi sembra raggiunto.
Prospettive future: tra attuazione e collaborazione
Come sempre dopo una legge (si pensi al DM 77 ed alla telemedicina), IA bisogna metterla in pratica nelle cure. Servono decreti attuativi servono regolamenti, e questo non potrà essere fatto senza la collaborazione delle professioni sanitarie, come per tutte le tecnologie per la salute. L’IA è solo uno strumento e, anche se ben definito, saremo noi professionisti a dover lavorare sulla pratica applicativa assieme alle aziende tecnologiche, che spesso sono PMI. In AiSDeT, con le società scientifiche, gli esperti del settore, stiamo lavorando il 16 maggio ne parleremo in sala Zuccari, al senato, con un incontro tra clinici, PMI e politici dal titolo “Intelligenza Artificiale ed Ecosistema Umano, quali scenari per la Sanità”.
Conclusioni
Sono convinto che queste poche pagine dello “schema di disegno di legge recante disposizioni e delega al governo in materia di intelligenza artificiale” stabiliscano principi che andavano definiti chiaramente e rapidamente. Un passo avanti importante è stato fatto anche per un uso reale del fascicolo sanitario elettronico per la cura.
