La sanità del futuro passa attraverso l’Intelligenza Artificiale, ma la transizione richiede regole chiare, trasparenza e consapevolezza etica. Il progetto AIACT nasce per rispondere a questa esigenza.
Indice degli argomenti
Innovazione tecnologica e cambiamento nel settore sanitario
Il progetto di ricerca “AIACT” (Artificial Intelligence Assessment: Classifying Transparent System), si colloca infatti in un momento temporale di forte cambiamento per la sanità e per tutti i settori.
Il cambiamento è una condizione che è rappresentativa della quotidianità per l’essere vivente, il quale può mutare fisicamente e psicologicamente inconsapevolmente. Lo stesso può accadere per le aziende.
La situazione moderna delle aziende vede un susseguirsi di eventi rilevanti che sono riconducibili al cambiamento organizzativo che denota un’attenta applicazione del management. Infatti, gestire con successo un cambiamento organizzativo è un punto cruciale per ogni azienda, anche moderna.
Le aziende sanitarie devono anch’esse gestire al meglio la rivoluzione tecnologica in atto. L’introduzione dell’IA, in sanità, segna una svolta epocale promettendo di trasformare radicalmente la diagnosi, la terapia e la cura dei malati. L’evoluzione tecnologica dell’IA è applicata per migliorare i servizi sanitari offerti affinché le tecnologie all’avanguardia supportino una medicina personalizzata ed anche predittiva (Beeksma, eat al. 2019).
Applicazioni cliniche e vantaggi operativi dell’intelligenza artificiale
Questa peculiarità dell’Intelligenza Artificiale permette di utilizzare per terapie personalizzate e garantire un monitoraggio costante e che permette anche un controllo da remoto (Karen, et al. 2018) all’evoluzione delle condizioni cliniche. In quest’ottica, l’IA non si limita a essere un raccoglitore di dati, ma interviene con presenza attiva nel processo di sviluppo decisionale clinico supportando la diagnosi automatizzata.
Tale visione proattiva non solo eleva il livello dell’assistenza sanitaria, ma abbatte le spese complessive evitando i ricoveri e interventi d’emergenza. Il miglioramento delle risorse può essere straordinario grazie all’IA supportata da tecnologie all’avanguardia. In quest’ottica, l’IA non si limita ad essere un raccoglitore di dati, ma interviene con presenza attiva nel processo di sviluppo decisionale clinico supportando la diagnosi automatizzata. Per esempio, le attività di allocazione dei dati o l’interpretazione di immagini possono essere automatizzate, risparmiando tempo al personale medico e paramedico per le attività di assistenza.
Etica, privacy e bias nei sistemi di intelligenza artificiale
Tuttavia, le organizzazioni sanitarie affrontano l’insorgere di considerevoli sfide etiche e regolatorie, rendendo necessaria una riflessione critica sulla sicurezza e sulla privacy dei dati dei pazienti.
La preponderanza di dati personali elaborati da enti sanitari e sviluppatori in ambienti digitali per esempio l’intelligenza artificiale, ed anche (per quanto riguarda i bias, ad esempio, nei clinical trials) è una delle più grandi sfide da affrontare. Pone una sfida per il rispetto delle normative e la protezione dei dati.
In particolare, in conseguenza di regolamenti, è possibile che siano limitati l’utilizzo di alcune tecnologie. Si riscontrano inoltre, nella disamina del tema dei clinical trials, problemi di rappresentatività del campione, che sollevano dubbi circa la generalizzabilità dei risultati, nonché patenti di eterogeneità nei campioni cui possono essere attribuite possibili invalidazioni degli stessi. Nello sviluppo di tali strumenti, la sfida è quella di valutare e gestire il rischio associato alle tecnologie presenti e future, assicurando che le soluzioni adottate siano eque e affidabili.
Il progetto AIACT e la lotta ai bias algoritmici
È in questo solco che si colloca il progetto AIACT, finalizzato a riconoscere, tracciare, e limitare i bias nei modelli di IA applicati ai trial clinici, favorendo l’utilizzo di dataset rappresentativi e tool trasparenti, e contestualmente minimizzando i rischi di bias.
Come descritto dalla revisione della letteratura, i bias possono essere presenti nelle seguenti forme:
- confirmation bias, quando il clinico conferma maggior rilevanza ai risultati dell’IA che convalidano le sue ipotesi,
- l’automation bias (Challen et al.,2019), ovvero una mancata considerazione eccessiva delle raccomandazioni automatiche;
- i bias razziali e di genere sono particolarmente problematici a causa delle differenze nelle cure che si ricevono e perché i dati si basano su campioni non equamente distribuiti.
Gli algoritmi, come suggerisce Cathy O’Neil, sono strumenti pericolosi quando operano con opacità ed ad ampia scala. Taluni algoritmi di IA possono costituire un “secondo parere” in tempo reale, contenere un surplus di servizi e ridurre errori umani, offrendo servizi di qualità.
Rischi, regolamentazione e quadro europeo dell’aiact
Da qui la necessità che siano controllabili e adattabili. Un’altra cosa importante rilevata dall’analisi è il bias algoritmico, ossia distorsioni sistematiche nei processi decisionali causate da dati incompleti o sbilanciati che generano potenziali rischi diagnostici e terapeutici.
Ciò pone questioni morali poiché il diritto alla sanità e all’imparzialità dell’accesso ai servizi è coinvolto. I pregiudizi sono un ostacolo a sistemi trasparenti e inclusivi, specialmente in ambito sanitario (Ghassemi & Nsoesis,2022). Inoltre, emergono anche altri rischi all’applicazione dell’I.A.: interoperabilità tra i sistemi, trasparenza decisionale e protezione dei dati. Gestire il rischio in qualsiasi settore dell’assistenza sanitaria richiede un approccio multidisciplinare centrato sulla sicurezza e sul benessere clinico del paziente.
La gestione del rischio richiede un framework integrato che unisca aspetti regolatori ed etici con quelli formativi. Nell’estate 2024 è entrato in vigore l’AI ACT, il primo regolamento globale sull’intelligenza artificiale adottato dall’Unione Europea. Questo regolamento protegge l’utilizzo sicuro, etico e responsabile delle tecnologie avanzate e la promozione dei diritti fondamentali dei cittadini bilanciando innovazione e protezione.
Una delle caratteristiche principali del framework è l’approccio al rischio, declinato sotto tutti gli aspetti. Il framework si basa su tre pilastri: raccogliere dati, assicurare l’equità e garantire la sostenibilità dei dati. Le attività includono l’input, con dati completi e rappresentativi; l’analisi di processo, che prevede trasparenza e audit per rivelare bias; e l’output, da analizzare criticamente per garantire equità tra i diversi gruppi di pazienti.
Dati sintetici e sanità equa: il contributo del progetto AIACT
Nel progetto AIACT, per ridurre il rischio associato ai bias legati alle limitazioni di disponibilità, rappresentatività e qualità dei dati reali, è stata sviluppata una soluzione progettuale basata sull’utilizzo di dati sintetici: dati elaborati attraverso modelli matematici e tecniche avanzate, come le Generative Adversarial Networks (GAN) o modelli probabilistici bayesiani che simulano in modo realistico le caratteristiche statistiche dei dati clinici reali, senza tuttavia contenere informazioni identificabili, contribuendo in modo significativo alla riduzione dei bias. L’uso dei dati sintetici è il risultato progettuale per mitigare i bias.
Un ulteriore vantaggio è la tutela della privacy: ormai completamente scollegati da pazienti reali, i dati sintetici forniscono un’alternativa eticamente migliore alla condivisione e all’analisi di informazioni sensibili. In quest’ottica, nasce la necessità di garantire la conformità con il GDPR contribuendo alla sicurezza e tracciabilità del trattamento dei dati. Tuttavia, è fondamentale che quest’informazione venga generata e validata secondo criteri rigorosi. In tal senso, affinché i dati sintetici siano davvero una difesa efficace contro il bias, deve esserci un processo accurato di validazione e controllo di qualità. L’utilizzo corretto dei dati sintetici rappresenta una strategia importante per lo sviluppo delle tecnologie sanitarie e uno strumento per garantire una sanità equa e affidabile.
