il bilancio

AI in medicina, tra vantaggi e rischi: la sfida dei Governi sarà tutelare i diritti di tutti

Le evidenze e le notizie di cronaca parlano chiaro: l’uso dell’intelligenza artificiale in Sanità ha un valore ambivalente. Sosterrà il nostro diritto alla cura, ma minaccia altri diritti civili, di privacy e non discriminazione. Riuscirà il legislatore a trovare la quadra tra le due istanze?

29 Nov 2019
Domenico Marino

Università Degli Studi Mediterranea di Reggio Calabria

sanità digitale

Un numero sempre maggiore di lavori in letteratura mostra come si possano con successo impiegare tecniche di Intelligenza Artificiale (AI) e Machine Learning (ML) per la risoluzione di problemi in ambito biomedicale.

Eppure sono vantaggi che rischiano di essere soffocati dai rischi che, con altrettanta frequenza, continuano a emergere riguardo all’uso di AI in Sanità. 

In ballo c’è l’equilibrio fra due classi di diritti.

Da una parte, quello alla cura, certo favorito dall’AI, soprattutto in uno scenario di invecchiamento della popolazione che può mettere in crisi i sistemi sanitari nazionali. Dall’altra, una gamma di diritti civili (privacy, non discriminazione…) che invece l’AI potrebbe minacciare.

Gestire la complessità di questo equilibrio sarà una delle sfide più importanti che il legislatore è chiamato ad affrontare.

AI e Sanità, alcuni utilizzi tra i più promettenti

Cominciamo dai vantaggi. Tra i molti casi di studio vi sono lavori sull’analisi del tracciato elettroencefalografico per realizzare paradigmi Brain-Computer Interface (BCI) per l’interpretazione dei pattern di attività cerebrale, i numerosi esempi di applicazioni nel campo della interpretazione di tracciati elettrocardiografici, nella previsione di eventi di scompenso cardiaco, nel diabete fino all’impiego di moderne tecniche di visione artificiale come ausilio alla diagnosi in ambito di immagini medicali. Questi risultati sono indispensabili per progettare le strategie di interazione con le pratiche cliniche correnti ed i sistemi sanitari, sia per l’acquisizione e il trattamento dei dati clinici e genetici di interesse e sia per l’integrazione dei risultati dell’elaborazione dei modelli nei protocolli e nelle infrastrutture di gestione dei sistemi.

WHITEPAPER
Nel mondo Retail 4.0 la velocità è tutto: come stare al passo?
Retail
Software

Il monitoraggio dello stato di salute, la prevenzione di situazioni critiche e il supporto ad attività quotidiane rappresentano un ambito applicativo emergente a livello nazionale, con particolare riferimento alle persone fragili, anziane e con patologie croniche: tra queste, rientrano quelle legate malattie diabetiche e autoimmuni. In quest’ottica riveste particolare importanza la prevenzione del declino funzionale e la cura della fragilità fisica e cognitiva e lo sviluppo di soluzioni per la vita indipendente, attraverso anche lo studio di nuovi modelli diagnostici e strumenti di monitoraggio in grado di prevedere il rischio clinico e ridurre nel contempo la spesa sanitaria e assistenziale.

Un tema importante da esplorare entro la fine di questo decennio è come le tecnologie dell’Intelligenza artificiale applicate al contesto sanitario possono incrementare ulteriormente la qualità dell’attuale sistema e se gli odierni sforzi sono ottimizzati e sufficienti per il raggiungimento di nuovi obiettivi. In particolare la capacità di elaborazione di grandi quantità di dati catalizzerà un elevatissimo numero di benefici in ambito sanitario e del wellness a scopo di prevenzione, diagnosi, cura dell’individuo.

I rischi dell’intelligenza artificiale in Sanità

Ma questa ipotesi futurista non è scevra da rischi. Le criticità dell’utilizzo degli algoritmi nella gestione dei sistemi sanitari sono legate alla possibilità che le intelligenze artificiali che governano i processi valutativi legati alla sanità digitale possano sviluppare dei bias che penalizzano o avvantaggiano alcuni soggetti in relazione al sesso, alla razza, all’istruzione, alla religione o all’orientamento politico.

Queste considerazioni portano ad inferire che un sistema di sanità digitale possa aumentare le diseguaglianze sociali, aumentando il divario che esiste fra ricchi e poveri e aumentando il divario fra i meno poveri e i più poveri.

Paradossalmente in questo caso è proprio l’estrema potenza dell’algoritmo a costituire un punto di debolezza.

Discriminazione delle minoranze

I sistemi sanitari degli Stati Uniti si basano su algoritmi di previsione per individuare i pazienti con esigenze sanitarie complesse. In un articolo apparso Science Magazine si dimostra che un algoritmo ampiamente utilizzato, e che riguarda milioni di pazienti, presenta un significativo pregiudizio razziale: a un dato punteggio di rischio, i pazienti neri risultano avere degli score considerevolmente più elevati dei pazienti bianchi, con una conseguente sovrastima dei costi per il sistema sanitario.

Rimediare a questa disparità aumenterebbe la percentuale di pazienti neri che ricevono ulteriore aiuto dal 17,7 al 46,5%. Questo bias razziale riduce, quindi, di oltre la metà il numero di pazienti neri che vengono individuati come bisognosi di trattamenti complessi. La distorsione si verifica perché l’algoritmo utilizza i costi sanitari come proxy per le esigenze di cura. Di conseguenza vengono spesi meno soldi per i pazienti neri che hanno lo stesso livello di necessità. Riformulare l’algoritmo in modo che non utilizzi più i costi come proxy per i bisogni potrebbe eliminare il pregiudizio razziale nel prevedere chi ha bisogno di cure extra. Un accesso disuguale alle cure significa che si spendono meno soldi per i pazienti neri rispetto ai pazienti bianchi.

L’analisi di questo caso ci fa vedere come un atteggiamento ottimistico nei confronti dell’intelligenza artificiale, che spesso viene presentata come panacea di ogni male, con proprietà taumaturgiche che possono essere estese a tutti i problemi e a tutte le situazioni, è lontano dalla realtà. L’intelligenza artificiale è uno strumento che deve essere usato con intelligenza, tenendo conto anche dei possibili rischi connessi.

Quanto più gli strumenti sono potenti, tanto più vanno maneggiati con cura tenendo conto sia degli effetti collaterali, sia degli effetti inattesi. Una tecnocrazia degli algoritmi rischia di essere iniqua e di aumentare le diseguaglianze. Certamente l’idea di eliminare l’empatia legata al fattore umano apparentemente rende più efficienti i sistemi di contrasto della povertà, ma in realtà ne fa perdere solamente il contenuto di umanità che, forse, costituisce un elemento essenziale e insostituibile per la buona riuscita del processo.

I rischi privacy

Un ulteriore aspetto problematico è costituito dalla gestione di un insieme di big data sanitari in maniera tale da garantire la privacy e il loro corretto utilizzo. In relazione a quest’ultimo punto sarà necessario costruire una regulatory compliance capace di assicurare una protezione e tutela del dato sanitario in relazione alla quale è stato elaborato un modello generale che tiene conto delle norme contenute nel Regolamento 2016/679/UE entrato in vigore nel 2018 e che passa attraverso la standardizzazione dei processi e la costruzione di metriche e protocolli sicuri per la condivisione e l’elaborazione delle informazioni.

Un’inchiesta uscita in questi giorni del Wall Street Journal ha messo in luce che Google ha raccolto segretamente milioni di record di pazienti in 21 stati per conto di un fornitore di assistenza sanitaria nell’ambito di un progetto colossale soprannominato “Project Nightingale”. Né i medici, né i pazienti sono stati messi al corrente di questo trattamento di dati.

I dati raccolti nel programma includono secondo il Wall Strett Journal racchiudono “risultati di laboratorio, diagnosi mediche e registri di ricovero, tra le altre categorie, e equivalgono a una storia sanitaria completa, completa di nomi e date di nascita dei pazienti”, sono inoltre più di i dipendenti di Google almeno in linea teorica potrebbero aver avuto accesso ai dati.

Google si è giustificata affermando che, è una prassi standard in sanità quella di condividere dati e documenti sanitari per loro natura estremamente sensibili con gli operatori tecnologici utilizzando i dati medici privati de​​i pazienti senza richiedere la notifica del trattamento.

Ma questa giustificazione appare molto debole. La realtà è che i dati sanitari costituiscono una miniera d’oro che nel Far West attuale della normativa le imprese non si fanno scrupolo a sfruttare.

Le norme devono correre in avanti

La necessità che i gestori di dati siano dissuasi dall’utilizzo improprio dei dati da loro posseduti diventerà più rilevante con la tecnologia 5G che, permettendo una connessione continua, amplierà considerevolmente il numero dei soggetti che detengono e trattano dati e informazioni personali. Dati che hanno un valore economico rilevante e il cui uso improprio può essere fonte di grandi vantaggi economici e non. Occorre, quindi, che la legislazione si adegui in fretta a questi cambiamenti, prevedendo sanzioni certe, rilevanti e crescenti per l’uso improprio dei dati personali per evitare che una sanzione troppo bassa o facilmente eludibile incentivi i trattamenti illeciti dei dati personali che potenzialmente sono una miniera d’oro da sfruttare.

In questo senso vanno anche valutate tutte le politiche di acquisizione fra imprese che operano o detengono big data. L’eccessiva concentrazione di potere legato al possesso dei dati è un pericolo, sia dal punto di vista della possibilità di distorcere il mercato, sia in senso più ampio per la possibilità di erodere le libertà civili.

WHITEPAPER
Intelligent Business Process Automation: perché serve alle aziende
CIO
Cloud
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 4