TECNOLOGIE EMERGENTI

Deep learning e Sanità, tutte le incognite della “scatola nera” della AI

In rapida affermazione le applicazioni di intelligenza artificiale in medicina, in particolare nella diagnostica per immagini. Ma il coinvolgimento delle architetture di deep learning accende i riflettori sull'”accountability” dei processi. Ecco le problematiche emergenti e le soluzioni allo studio

14 Mag 2019
Giuseppe D’Avenio

Centro Nazionale TISP (Tecnologie Innovative in Sanità Pubblica), ISS, Roma

Mauro Grigioni

Centro Nazionale TISP (Tecnologie Innovative in Sanità Pubblica), ISS, Roma

intelligenza-artificiale

Sanità digitale sempre più coinvolta nell’utilizzo di sistemi di Intelligenza artificiale di tipo deep learning.

Nell’ambito della diagnostica per immagini in particolare gli studi si stanno concentrando sulle architetture di deep learning in grado di elaborare enormi quantità di dati. Processi su cui però possono pesare interrogativi legati all'”inconoscibilità” dell’algoritmo: nasce da qui il nuovo concetto di Explainable AI. 

Un concetto sempre più “necessario”, dati che i prodotti ICT riconducibili alla Intelligenza Artificiale (IA) sono ormai molto diffusi, anche se non c’è una piena consapevolezza di questo fatto da parte del pubblico dei non addetti ai lavori. Anche una semplice ricerca di parole chiave su un motore di ricerca implica l’uso di prodotti di questo tipo.

Lo stesso dicasi per l’organizzazione della propria pagina personale nei social network più diffusi, in base alle attività del titolare della pagina stessa, in modo da rendere più appagante l’esperienza di navigazione.

In tale contesto, non è sorprendente che si assista a un crescente interesse verso le applicazioni di IA in medicina: in particolare, l’ambito della diagnostica per immagini (soprattutto radiologia, ma anche istologia e istopatologia) si presta ottimamente ad analisi di grandi quantità di dati, tipiche del machine learning (o della sua versione più recente, deep learning).

Diagnostica e analisi dei dati con l’AI Deep Learning

Le potenzialità di IA in medicina sono comunque molto consistenti anche in altri ambiti, quali l’analisi automatica delle cartelle cliniche che, essendo compilate in modo non strutturato, sono state tradizionalmente non considerate come sfruttabili con un approccio algoritmico, fino alla composizione automatica e strutturata dei referti; i progressi della IA stanno invece consentendo di mettere a frutto anche tali dati, non più così “ostici” per i software come è stato fino al recente passato.

WHITEPAPER
La RPA in 9 step: da dove si comincia?
Intelligenza Artificiale
Realtà virtuale

Per quanto riguarda la diagnosi per immagini, gli algoritmi di analisi possono rivelare caratteristiche che l’occhio anche esperto non è in grado di valutare: differenze di intensità (così come pattern di pixel, o tessiture) pressoché inapprezzabili sono quantificabili in modo affidabile da strumenti software, che hanno l’ulteriore vantaggio di offrire performance costanti.

Un altro obiettivo sicuramente fattibile per la IA in medicina sarà l’integrazione di dati provenienti da varie fonti: se l’imaging diagnostico (Radiomica derivata da radiologia, medicina nucleare, risonanza magnetica nucleare, ultrasuoni, ..) dà indicazioni sul “fenotipo”, ossia l’insieme delle caratteristiche morfologiche e funzionali di un organismo determinate dall’interazione fra la sua costituzione genetica e l’ambiente (http://www.treccani.it/enciclopedia/fenotipo/), le tecniche di analisi del “genotipo”, ossia la costituzione genetica, patrimonio ereditario di un individuo, forniscono altre informazioni preziose (per es., tramite sequenziamento genetico di un individuo o di un gruppo di popolazione), che possono essere combinate con quelle relative al fenotipo (ad es radiogenomica).

Il “comportamento” del deep learning

Si sta quindi assistendo alla crescita esponenziale dei dati relativi alla salute (e anche al semplice benessere della persona, v. la diffusione dei dispositivi indossabili per la fitness), per cui le tradizionali tecniche di analisi non risultano adatte a gestire in modo soddisfacente tale massa di dati.

Le applicazioni di IA (specialmente il deep learning) sono invece naturalmente predisposte a far fronte a tale esplosione di dati, in quanto funzionano sempre meglio all’aumentare della mole di dati di training, fase necessaria per costruire la rete neurale ottimale per un dato problema clinico.

Come già accennato, il paradigma più comune di IA è raggruppato dalle tecniche di Machine Learning (ML). Fra queste, l’architettura più popolare attualmente è data dal Deep Learning (DL) in cui si usa una rete neurale (NN) di decine o anche centinaia di strati di “neuroni”, o unità elementari di elaborazione.

La complessità delle architetture di DL fa sì che le stesse si comportino come “scatole nere”, per cui è in pratica impossibile individuare il meccanismo esatto per cui il sistema fornisce certe risposte: la risposta del sistema alle sollecitazioni ricevute in fase di training si traduce infatti nel continuo affinamento di una grande quantità di parametri (legati alle interconnessioni fra i “neuroni” della rete), e chiaramente non è possibile – se non con analisi ultraspecialistiche – prevedere il comportamento “macroscopico” della rete (in termini di decisione clinica, per es.) in base al valore di tali parametri che ne costituiscono il substrato “microscopico”.

Le criticità poste dalla black box

Data la grande diffusione delle soluzioni DL, questo problema diventerà in prospettiva sempre più sentito. Va sottolineato come in ambito medico la accountability, o responsabilità, del professionista è di primaria importanza: una qualsiasi decisione medica deve poter essere giustificata a posteriori, possibilmente tramite evidenze oggettive.

Chiaramente, lo stesso deve valere quando alla decisione clinica concorre anche l’esito di un’elaborazione di tipo IA, per cui le architetture “a scatola nera” sono difficilmente compatibili con l’ambito sanitario; inoltre dovendo queste applicazioni software essere certificate, si comprende la criticità di tale procedura a fronte di un algoritmo poco spiegabile.

L’esigenza di avere decisioni cliniche trasparenti, comprensibili e spiegabili si unisce peraltro ai requisiti del nuovo Regolamento europeo sulla protezione dei dati (GDPR), che restringe l’impiego di elaborazioni “opache” dei dati: anche senza l’obbligo di spiegare ogni singolo passo, si ha però la necessità di poter rintracciare le elaborazioni fatte, se eventualmente si rendesse necessario in futuro.

La necessità di una Explainable AI (XAI)

Si sta così affermando per la IA il concetto di Explainable AI (XAI): è importante poter individuare il percorso fatto da un sistema IA per arrivare a certe conclusioni ed essere sicuri che i “ragionamenti” eseguiti siano condivisibili.

Nello specifico delle applicazioni alla salute, l’utilizzo di “scatole nere” certamente pone problematiche non banali quindi nel definire i percorsi di certificazione, di quality assurance, di standardizzazione, per potenziali dispositivi medici basati su DL.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 4