Nel novembre del 2018, Sepsis Watch – un innovativo modello di Deep Learning – venne attivato presso il dipartimento di emergenza del sistema sanitario della Duke University di Durham (USA).
Adesso è emerso con chiarezza che è stato un modello di successo, sul campo, aspetto per niente scontato ogni volta che si introduce l’intelligenza artificiale (o altre innovazioni) in Sanità.
Sepsis Watch è stato progettato per aiutare i medici a individuare i primi segni di una delle principali cause di morte in ospedale a livello globale, ossia la sepsi.
Il sistema funziona: ha ridotto drasticamente i decessi dei pazienti ed è ora parte di uno studio clinico registrato a livello federale USA che dovrebbe rilasciare i suoi risultati nel 2021. Ma vediamo quali sono i fattori che ne hanno determinato il successo.
Come funziona Sepsis Watch
La sepsi è una rara complicazione di un’infezione, le cui conseguenze possono essere molto gravi e potenzialmente mortali. Consiste in una risposta infiammatoria eccessiva dell’organismo a un’infezione generalizzata che danneggia tessuti e organi compromettendone il funzionamento. Senza una cura immediata può provocare la morte.
Sepsis Watch ha promesso di cambiare questa situazione. Il prodotto di tre anni e mezzo di sviluppo (che comprendeva la digitalizzazione delle cartelle cliniche, l’analisi di 32 milioni di dati e la progettazione di una semplice interfaccia sotto forma di un’applicazione per iPad), ha permesso di analizzare le probabilità di sviluppare la malattia nei pazienti in cura presso un nosocomio. L’applicazione segnala coloro che sono a medio o alto rischio e quelli che soddisfano taluni criteri. Una volta che un medico conferma la diagnosi, i pazienti ricevono “un’attenzione immediata”, così da prendere “per tempo” la malattia. Nei due anni successivi all’introduzione dello strumento, le prove effettuate dai medici della Duke University Health System hanno suggerito che Sepsis Watch funziona davvero.
A prima vista, questo è un esempio di una grande vittoria tecnica. Attraverso un attento sviluppo e diversi test, un modello di Intelligenza Artificiale ha aumentato con successo la capacità dei medici di diagnosticare le malattie. Ma un nuovo rapporto del Data & Society Research Institute afferma che questa è solo “metà della storia”. L’altra metà è la quantità di lavoro sociale qualificato che i medici che conducono il progetto hanno dovuto svolgere per integrare lo strumento nei loro flussi di lavoro quotidiani. Questo ha incluso non solo la progettazione di nuovi protocolli di comunicazione e la creazione di nuovi materiali di formazione per i lavoratori, ma anche la ridefinizione di alcune “dinamiche di potere” aziendali. Il caso di studio è un riflesso di ciò che serve realmente agli strumenti di Intelligenza Artificiale per avere successo nel mondo reale.
L’innovazione del settore
In ogni caso, l’innovazione del settore dovrebbe essere dirompente, poiché “scuote i vecchi modi di fare” al fine di ottenere risultati migliori: i protocolli esistenti diventano obsoleti; le gerarchie sociali vengono stravolte. Far funzionare le innovazioni all’interno dei sistemi esistenti a livello ospedaliero richiede un certo “lavoro di riparazione”. Durante lo studio biennale dei ricercatori di Sepsis Watch alla Duke University Health System, gli stessi hanno documentato numerosi esempi di questa evoluzione. Uno dei problemi principali è stato il modo in cui lo strumento ha messo in discussione le dinamiche di potere profondamente radicate nel mondo medico, nonché nel rapporto tra medici e infermieri.
Nelle prime fasi della progettazione dello strumento, è diventato chiaro che gli infermieri del team di risposta rapida (Rapid Response Team, RRT) avrebbero dovuto essere i principali fruitori del sistema. Sebbene i medici siano in genere incaricati di valutare i pazienti e di effettuare diagnosi di sepsi, gli stessi non hanno il tempo di monitorare continuamente l’applicazione, poiché oberati dalle loro mansioni. Al contrario, la responsabilità principale di un infermiere di un RRT è quella di monitorare continuamente il benessere dei pazienti e di fornire assistenza “extra” dove necessario. Quindi l’applicazione Sepsis Watch si adatta naturalmente al flusso di lavoro degli infermieri.
Ma qui è nata una “sfida”. Una volta che l’applicazione segnalava un paziente come “ad alto rischio”, un’infermiera doveva chiamare il medico. Non solo questi infermieri e assistenti spesso non avevano un rapporto precedente, perché trascorrevano le loro giornate lavorative in sezioni completamente diverse dell’ospedale, ma il protocollo rappresentava un’inversione completa della catena di comando tipica di qualsiasi nosocomio. Tuttavia, la questione si risolse in maniera bonaria. I responsabili del progetto hanno iniziato a riferire regolarmente alla direzione clinica l’impatto di Sepsis Watch. In un momento, peraltro, che il team del progetto ha scoperto che non tutti gli operatori ospedalieri credevano che la morte indotta da sepsi fosse un problema alla Duke University Health System. I medici, in particolare, che non avevano una visione complessiva delle statistiche dell’ospedale, erano molto più occupati con le emergenze con cui avevano a che fare giorno per giorno, come ossa rotte e gravi malattie mentali. Di conseguenza, alcuni hanno trovato la Sepsis Watch una seccatura. Ma per la direzione sanitaria della Duke la lotta alla sepsi era una priorità enorme, e più vedevano funzionare Sepsis Watch, più si prodigavano nel facilitare il suo utilizzo all’interno del nosocomio.
Il necessario cambiamento normativo
Sono stati identificati due fattori principali che hanno aiutato Sepsis Watch ad avere successo.
In primo luogo, lo strumento è stato adattato per un contesto iper-locale e iper-specifico: è stato sviluppato per il reparto di emergenza della Duke Health e in nessun altro luogo. E questo va contro le “regole tipiche” dell’Intelligenza Artificiale. In secondo luogo, durante tutto il processo di sviluppo, il team ha cercato regolarmente un feedback da infermieri, medici e altro personale del nosocomio. Questo non solo ha reso lo strumento più facile da usare, ma ha anche creato un piccolo gruppo di sanitari nel sostenere il suo successo. Inoltre, il fatto che il progetto è stato guidato dai medici e dagli infermieri, piuttosto che dagli informatici della Duke, ha fatto sì che l’adozione fosse la più generalizzata possibile, poiché basata sulla fiducia nello strumento.
Per il professore del MIT Marzyeh Ghassemi, esperto di Machine Learning (ML) in campo sanitario, tutti i sistemi di ML che sono destinati ad essere valutati o utilizzati dagli esseri umani devono avere dei vincoli socio-tecnici davanti a loro. Soprattutto in contesti clinici, che sono gestiti da “decisori umani” e comportano la cura degli esseri umani nei loro momenti più vulnerabili, i vincoli di cui le persone devono essere consapevoli sono umani e logistici. Dalla Duke sperano che il caso di studio di Sepsis Watch convinca i ricercatori a ripensare a come affrontare la ricerca medica sull’Intelligenza Artificiale nonché lo sviluppo dell’Intelligenza Artificiale in generale. Gran parte del lavoro che si sta svolgendo in questo momento si concentra su ciò che l’Intelligenza Artificiale potrebbe essere o che potrebbe fare in teoria. Ci sono troppe poche informazioni su ciò che accade realmente sul campo. Ma perché l’Intelligenza Artificiale sia all’altezza delle sue promesse, la gente deve pensare tanto all’integrazione sociale quanto allo sviluppo tecnico. L’Intelligenza Artificiale “responsabile” deve richiedere attenzione al contesto locale e specifico. Quindi la sfida è in realtà quella di capire come mantenere quella specificità locale mentre si cerca di lavorare su scala “più ampia”. Ed è questa la prossima frontiera della ricerca sull’Intelligenza Artificiale.[1]
- How an AI tool for fighting hospital deaths actually worked in the real world. MIT Technology Review. ↑
