trasparenza algoritmica

Un’intelligenza artificiale “spiegabile” per una Sanità efficace e sicura: i nodi

In un ambito così importante come quello sanitario è fondamentale rendere spiegabili gli algoritmi, in modo da consentire agli utilizzatori di prendere decisioni che possano essere condivise e spiegate non solo agli altri medici o operatori sanitari, ma anche e soprattutto ai pazienti

02 Dic 2021
Arturo Chiti

Ordinario in Diagnostica per Immagini e Radioterapia, Humanitas

deep fake_ intelligenza artificiale_5

Il processo che porta un medico a fare una diagnosi e proporre una terapia per un determinato paziente è complesso e richiede esperienza e competenze specifiche. Attualmente, viene favorita e supportata la multidisciplinarietà delle decisioni, attraverso il coinvolgimento di specialisti con diverse competenze. il ragionamento che porta a una diagnosi, basato sulla storia e sulle caratteristiche del paziente e sui dati raccolti con le metodiche diagnostiche è, nella grande maggioranza dei casi, riproducibile e chiaro. In altri termini: spiegabile.

L’implementazione delle tecniche di intelligenza artificiale come ausilio al ragionamento e alle decisioni mediche è una delle promettenti aree di sviluppo della medicina moderna. Queste tecniche aiutano i medici a considerare grandi quantità di dati nel loro approccio alla diagnosi e a stabilire nuove possibili correlazioni secondo parametri innovativi. La scelta della migliore terapia disponibile, per un particolare paziente, può altrettanto beneficiare del supporto di queste tecniche.

L’intelligenza artificiale nella “salute circolare”: opportunità, sfide e passi concreti 

La questione della spiegabilità delle decisioni degli algoritmi

La questione che viene maggiormente discussa in questi anni è relativa alla spiegabilità delle decisioni suggerite dagli algoritmi di intelligenza artificiale. I sistemi di intelligenza artificiale sono allenati per prendere decisioni e stabilire correlazioni in base a dati messi a disposizione da fonti diverse e di natura non omogenea. Recentemente è stato riscontrato come le modalità di allenamento di questi algoritmi possano portare a distorsioni o influenze specifiche sulle decisioni delle macchine, con importanti ripercussioni sulla qualità e sulla affidabilità delle decisioni stesse. La stampa ha dato grande enfasi al contenuto razzista od offensivo riscontrato in alcuni sistemi di comunicazione con utenti, di riconoscimento faciale o di selezione del personale.

WHITEPAPER
Benefici concreti e sfide della trasformazione digitale: guida pratica e analisi di un caso concreto

La possibilità di un orientamento iniziale scorretto o influenzato da fattori esterni diventa ancora più critica quando viene applicato in ambito medico e di ricerca.

I primi sistemi di intelligenza artificiale erano facilmente interpretabili, ma la crescente utilizzazione di sistemi decisionali come le reti neurali profonde, ha reso l’interpretazione dei risultati forniti da queste macchine più difficoltosa. L’efficacia dei modelli di deep learning deriva dall’utilizzazione di algoritmi di apprendimento efficienti e dal grande numero di livelli e di parametri utilizzati. Queste caratteristiche li rendono tuttavia dei modelli complessi a “scatola nera”, per cui risulta difficile interpretare le decisioni prese da questi sistemi.

L’IA in contesti critici

Oltre che nelle scienze della salute, questi algoritmi vengono utilizzati spesso in contesti critici, che richiedono alti livelli di precisione, per cui la necessità di avere dei sistemi trasparenti è stata sottolineata in molti contesti. Inoltre, le implicazioni etiche di scelte non giustificabili perché legate a comportamenti non spiegabili da parte di una macchina, sono così importanti da rischiare di impedire l’utilizzazione dei sistemi di intelligenza artificiale in molti contesti, se non appropriatamente spiegati.
Il divario tra la comunità della ricerca in intelligenza artificiale e alcuni settori impedisce la piena penetrazione dei più recenti modelli di intelligenza artificiale in ambiti lenti nella trasformazione digitale e che hanno difficoltà a implementare tecniche che potrebbero mettere a rischio la sicurezza dei dati, come quello della salute.

Inoltre, l’intelligenza artificiale ha aiutato la ricerca proponendo relazioni oltre la portata cognitiva umana, particolarmente su grandi quantità di dati. Entrambi questi fattori acuiscono la richiesta di avere dei modelli trasparenti di intelligenza artificiale. Questa caratteristica può essere descritta in tre livelli: trasparenza algoritmica, scomponibilità e simulabilità.

La trasparenza algoritmica

La comunità scientifica è consapevole dell’importanza della trasparenza dei sistemi di intelligenza artificiale. Lo scorso anno, un gruppo di scienziati ha criticato uno studio pubblicato da Google che descrive una rete in grado di localizzare i segni di tumore della mammella dalle immagini mammografiche. In realtà, il problema della trasparenza e della riproducibilità dei dati è generalizzato nell’ambito delle scienze della salute. Infatti, sono state create diverse iniziative a supporto di quella che viene chiamata “Open Science” (scienza aperta). Queste iniziative hanno come scopo quello di ottenere la massima trasparenza e riproducibilità dagli studi pubblicati su riviste scientifiche. La base di queste considerazioni è che il metodo scientifico si basa su un rapporto di fiducia tra scienziati, che comporta la condivisione di dettagli sufficienti sulla ricerca per consentire ad altri di replicarla. I dati scientifici che non possono essere replicati non dovrebbero essere considerati affidabili. In realtà, fino ad ora non tutti i lavori hanno presentato dati riproducibili, anche se attualmente il numero sta crescendo significativamente, grazie alle iniziative di cui sopra.

La mancanza di trasparenza impedisce che i nuovi modelli e tecniche di intelligenza artificiale vengano adeguatamente valutati per affidabilità e sicurezza. Infatti, i modelli di apprendimento automatico che funzionano bene in laboratorio possono fallire quando sono applicati nel mondo reale, con conseguenze potenzialmente pericolose. L’utilizzazione degli algoritmi e dei dati da parte di diversi ricercatori potrebbe rilevare i punti deboli dei sistemi in maniera più veloce ed efficace. Mettere a disposizione il codice, i dati e l’hardware utilizzati per crearlo li renderebbe migliori in termini di sicurezza ed efficacia e maggiormente trasparenti. Mettere a disposizione i dati è però un’operazione difficile, in quanto accumulare dati e poterli analizzare è costoso ed attualmente sono poche le compagnie che possiedono queste capacità. Appare comprensibile quindi che siano riluttanti a rinunciare ai privilegi ottenuti.

Un’altra problematica connessa alla spiegabilità dell’intelligenza artificiale è quella delle prestazioni. L’opinione comune è che i sistemi complessi perdano di efficienza quando le loro decisioni sono rese trasparenti. In realtà, la possibilità di spiegare le motivazioni alla base delle decisioni prese dai sistemi di intelligenza artificiale consente di correggere eventuali carenze di progettazione, portando verosimilmente ad un miglioramento delle loro prestazioni.

La creazione di tecniche spiegabili di intelligenza artificiale consente di non limitare l’efficacia dell’attuale generazione di algoritmi. Sono state proposte quindi tecniche intelligenza artificiale spiegabile (eXplainable AI, XAI): “in grado di produrre modelli più spiegabili mantenendo un alto livello di prestazioni di apprendimento e consentire agli sviluppatori ed agli utilizzatori di comprendere, fidarsi e gestire efficacemente i sistemi di intelligenza artificiale”.

Conclusioni

In un ambito così importante come quello delle scienze della salute è quindi fondamentale che gli sviluppatori facciano ogni sforzo per rendere spiegabili gli algoritmi creati, in modo da consentire agli utilizzatori di prendere decisioni che possano essere condivise e spiegate non solo agli altri medici o operatori sanitari, ma anche e soprattutto ai pazienti.

Bibliografia

https://www.technologyreview.com/2020/11/12/1011944/artificial-intelligence-replication-crisis-science-big-tech-google-deepmind-facebook-openai/

Alejandro Barredo Arrieta, Natalia Díaz-Rodríguez, Javier Del Ser, et al. (2021)

Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI, Information Fusion, 58, 82-115 https://doi.org/10.1016/j.inffus.2019.12.012.

Angelov, P. P., Soares, E. A., Jiang, R., Arnold, N. I., & Atkinson, P. M. (2021). Explainable artificial intelligence: an analytical review. Wiley Interdisciplinary Reviews: Data Mining and Knowledge Discovery, 11(5), e1424. https://doi.org/10.1002/widm.1424

Christian Meske, Enrico Bunde, Johannes Schneider & Martin Gersch (2020): Explainable Artificial Intelligence: Objectives, Stakeholders, and Future Research Opportunities, Information Systems Management, DOI: 10.1080/10580530.2020.1849465

Wojciech Samek, Thomas Wiegand, Klaus-Robert Muller. Explainable artificial intelligence: understanding, visualizing and interpreting deep learning models. arXiv:1708.08296v1

David Gunning, David W. Aha. DARPA’s Explainable Artificial Intelligence Program

CLICCA QUI per scaricare il White Paper: "Guida allo Smart Healthcare?"

hbspt.cta.load(3901390, ‘15947407-1fd6-4f28-98e7-32bef6c95e47’, {“useNewLoader”:”true”,”region”:”na1″});
WHITEPAPER
Le opportunità del social commerce per Generazione Z e Millennials
Marketing
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Analisi
PA
Salute digitale
News
Fondi
Formazione
Ecologia
Digital Economy
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Incentivi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Incentivi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 4