Intelligenza artificiale utile o dannosa nel contrasto al Covid-19? Le certezze che servono | Agenda Digitale

Curial ai

Intelligenza artificiale utile o dannosa nel contrasto al Covid-19? Le certezze che servono

Per valutare la reale accuratezza degli strumenti di AI in campo Covid-19 e capire come possano supportare i pazienti nel mondo reale, gli studi clinici sono essenziali. Lo studio Curial AI prova a dare delle risposte, ma occorre anche chiedersi se tali modelli aggiungono valore clinico ai sistemi sanitari o meno

27 Gen 2021
Luigi Mischitelli

Privacy & Data Protection Specialist at IRCCS Casa Sollievo della Sofferenza

Photo by Ashkan Forouzani on Unsplash

La diffusione capillare della pandemia di Covid-19 ha costretto il mondo dell’assistenza sanitaria e relativi fornitori di servizi – nonché i governi di tutto il mondo – ad accelerare lo sviluppo di strumenti di Intelligenza Artificiale e ad aumentarne l’utilizzo in medicina. E questo ancor prima di una dimostrata efficacia della tecnologia. Per fare un esempio, negli Stati Uniti un algoritmo di Intelligenza Artificiale non testato ha persino ricevuto un’autorizzazione “d’emergenza” dalla Food and Drug Administration (ente governativo USA che si occupa anche della regolamentazione dei prodotti farmaceutici). Da qui una domanda: l’uso di sistemi di Intelligenza Artificiale non testati aiuterà o ostacolerà i pazienti affetti da Covid-19?

AI e contrasto al Covid: le preoccupazioni dei ricercatori

Se cerchiamo una risposta in campo normativo, il panorama legislativo “lassista” degli algoritmi di Intelligenza Artificiale nel contrasto al Covid-19 ha suscitato notevoli preoccupazioni tra i ricercatori di tutto il mondo. Una pubblicazione del British Medical Journal datata aprile 2020[1] evidenziò che i modelli di Intelligenza Artificiale applicati al Covid-19 sono addestrati su dataset di piccole dimensioni o di bassa qualità, aventi al contempo alto rischio di distorsione. Uno degli autori della pubblicazione, il professor Gary Collins dell’Università di Oxford ha affermato che è di vitale importanza riportare in modo completo e trasparente tutti i dettagli chiave dello sviluppo e della valutazione dei modelli di previsione in campo Covid-19. La mancata segnalazione di dettagli importanti non solo contribuisce allo “spreco” in ambito scientifico, ma può portare all’utilizzo di un modello mal sviluppato e mal valutato che potrebbe causare più danni che benefici nel processo decisionale clinico.

[QUIZ] SECURITY/BACKUP
Protezione dei dati: sei sicuro di avere una strategia efficace? Scoprilo nel Quiz
Big Data
Sicurezza

Per supportare una reportistica trasparente e riproducibile, il codice sorgente e i dataset (pseudonimizzati) dei pazienti, per gli algoritmi di Intelligenza Artificiale applicati al Covid-19, dovrebbero essere aperti e accessibili alla comunità scientifica tutta.

Lo studio “Curial AI”

Uno di questi studi, pubblicato sul The Lancet Digital Health[2], riporta un nuovo test di screening per l’Intelligenza Artificiale applicata al Covid-19, denominato “Curial AI”, che utilizza i dati clinici raccolti dai pazienti che effettuano un accesso in ospedale. Nella speranza che l’Intelligenza Artificiale possa aiutare a mantenere i pazienti e gli operatori sanitari al sicuro, l’accademico di Oxford Andrew Soltan e i suoi colleghi affermano che il test basato sull’Intelligenza Artificiale potrebbe da un lato consentire l’esclusione dei pazienti che non hanno contratto il Covid-19, e dall’altro garantire che i pazienti con Covid-19 ricevano tutti i trattamenti del caso nel modo più rapido possibile. Questo è uno dei più grandi studi sull’Intelligenza Artificiale effettuato ad oggi, il quale ha “coinvolto” dati clinici di oltre centomila pazienti britannici.

La validazione prospettica del test di screening dell’Intelligenza Artificiale ha mostrato risultati accurati e più rapidi rispetto ai test basati sulla reazione a catena della polimerasi (PCR), tecnica che consente di ottenere rapidamente milioni di molecole identiche di DNA a partire da quantità estremamente ridotte di acido nucleico[3]. Tuttavia, come per altri modelli di Intelligenza Artificiale applicati al Covid-19, anche “Curial AI” richiede di essere sperimentato su popolazioni geograficamente ed etnicamente diverse per valutare le sue prestazioni nel mondo reale.

AI in sanità: quale valore aggiunto?

Il ricercato Andrew Soltan ha sottolineato che non si conosce ancora se il modello di Intelligenza Artificiale in esame si “espanderà” a pazienti di diversi paesi, dove è possibile recarsi in ospedale con un diverso spettro di problemi medici. In ogni caso, anche se modelli come “Curial AI” hanno dimostrato di diagnosticare accuratamente le malattie in un’ampia gamma di popolazioni, è necessario chiedersi se tali modelli aggiungono valore clinico ai sistemi sanitari o meno.

A fine 2020, la X Development – già Google X e ad oggi parte di Alphabet – ha annunciato che, sebbene sia stata in grado di sviluppare un’Intelligenza Artificiale nata per identificare le caratteristiche dei dati dell’elettroencefalogramma potenzialmente utili nel diagnosticare depressione e ansia, gli esperti non sono convinti del valore clinico dell’aiuto diagnostico di tale sistema. Il modo in cui gli strumenti di Intelligenza Artificiale sono utilizzati per la diagnosi delle condizioni di salute e per il miglioramento delle cure mediche non è sempre ben compreso dagli sviluppatori di tali tecnologie. Pertanto, i modelli di Intelligenza Artificiale in campo Covid-19 devono essere sviluppati in stretta collaborazione con gli operatori sanitari, con lo scopo di comprendere come i risultati di questi modelli possano essere applicati nella cura del paziente.

Strumenti di Intelligenza Artificiale come “Curial AI”, affrontano nella presente stagione invernale un compito sempre più impegnativo per aiutare i medici a distinguere tra infezioni respiratorie con sintomi simili, come il Covid-19 e l’influenza. Se non è possibile dimostrare che gli strumenti di Intelligenza Artificiale non siano in grado di distinguere un tipo di polmonite dall’altra, l’utilizzo prematuro di queste tecnologie potrebbe aumentare la diagnosi errata e “sabotare” l’assistenza clinica ai pazienti.

Errori come questi, se presenti su larga scala, rallenteranno l’impiego futuro di tecnologie potenzialmente salvavita e comprometteranno la fiducia nel rapporto medico-paziente e, soprattutto, la fiducia di entrambi nell’Intelligenza Artificiale.

Conclusioni

Per valutare la reale accuratezza degli strumenti di Intelligenza Artificiale in campo Covid-19, gli studi clinici sono essenziali per stabilire come la tecnologia possa supportare i pazienti affetti da Covid-19 nel mondo reale. Andrew Soltan e colleghi dell’Università di Oxford stanno pianificando studi clinici per lo sviluppo della “Curial AI” all’interno dei percorsi clinici esistenti negli ospedali del Regno Unito. In pratica l’Intelligenza Artificiale potrebbe essere il nostro “salvatore” nella pandemia Covid-19 nel presente anno. È solo necessario provarlo (e non è facile).[4]

___________________________________________________________________________

  1. Prediction models for diagnosis and prognosis of covid-19: systematic review and critical appraisal. British Medical Journal. https://www.bmj.com/content/369/bmj.m1328
  2. Rapid triage for COVID-19 using routine clinical data for patients attending hospital: development and prospective validation of an artificial intelligence screening test. The Lancet Digital Health. https://www.thelancet.com/journals/landig/article/PIIS2589-7500(20)30274-0/fulltext – Si veda anche: AI test rules out a COVID-19 diagnosis within one hour in Emergency Departments. University of Oxford. https://www.ox.ac.uk/news/2020-12-11-ai-test-rules-out-covid-19-diagnosis-within-one-hour-emergency-departments
  3. Capitolo 1 Introduzione alla PCR. Firenze University Press. https://media.fupress.com/files/pdf/16/1621/2066
  4. Artificial intelligence for Covid-19: saviour or saboteur? The Lancet Digital Health. https://www.thelancet.com/journals/landig/article/PIIS2589-7500(20)30295-8/fulltext#coronavirus-linkback-header
@RIPRODUZIONE RISERVATA

Articolo 1 di 3