Uno tra i più gravosi compiti che i medici si trovano ad affrontare quotidianamente è il loro rapporto con la “burocrazia”. Molti medici, infatti, passano ore ed ore della loro giornata lavorativa a compilare documenti e redigendo atti. Compiti che, peraltro, in molti paesi sono obblighi di legge; per cui, la loro compilazione non è facoltativa e comporta un pesante carico emotivo per i medici (in aggiunta a una professione già di per sé stressante e a costante rischio di burnout).
Le potenzialità di Dragon Ambient eXperience
Negli ultimi anni, negli Stati Uniti è stata testata una tecnologia che ha il potenziale di alleviare parte del carico di lavoro dei medici, ossia un’applicazione che registra le interazioni dei medici con i pazienti e utilizza l’Intelligenza Artificiale per generare note da inserire nella cartella clinica elettronica. L’applicazione, chiamata Dragon Ambient eXperience, o DAX, è stata sviluppata da Nuance Communications, azienda di Intelligenza Artificiale acquisita da Microsoft nel 2022.
Tra i primi ad utilizzare l’applicazione vi è la non-profit statunitense “Providence Health & Services” di Renton (Washington)[1], che gestisce diversi ospedali e cliniche statunitensi. Sebbene molti degli oltre quattrocento medici del Providence Health & Services che finora hanno utilizzato DAX lo apprezzino, ci sono stati due ostacoli principali quando si è trattato di convincere un maggior numero di medici a utilizzarlo: ossia, la resistenza al cambiamento e la rinuncia al controllo della scrittura degli appunti (per quanto non sia una pratica apprezzabile dai medici, come accennato in precedenza). Finora, il lavoro dell’Intelligenza Artificiale di DAX viene controllato da professionisti “umani” prima di essere inviato al medico per la revisione finale.
Medici e burocrazia: i vantaggi di DAX abbinato a GPT-4
Ma entro quest’estate[2] Microsoft e Nuance inizieranno a distribuire una versione completamente automatizzata che incorporerà GPT-4 grazie alla partnership di Microsoft con OpenAI. Il colosso fondato da Bill Gates spera che una versione di DAX completamente automatizzata, che generi documenti medici in pochi secondi, possa risultare molto più efficace della versione precedente (ad oggi in uso).
Ma la vera domanda per il suo (eventuale) successo è: i medici “cederanno il controllo” a “macchine imperfette” per utilizzare parte del loro tempo diversamente? Gli esperti sostengono che le preoccupazioni relative all’accuratezza, alla responsabilità e persino a questioni come la formattazione delle note potrebbero rendere alcuni medici esitanti a utilizzare appieno l’investimento multimiliardario ($18.8mld) di Microsoft. Probabilmente, serviranno molti anni per convincere la stragrande maggioranza dei medici ad utilizzare con sicurezza DAX o applicazioni simili. Tuttavia, la possibilità di una lunga “curva di adozione” non significa necessariamente che DAX sarà un fallimento per Microsoft. Innanzitutto, DAX ha un vantaggio di fiducia rispetto ai concorrenti attuali e futuri: più di mezzo milione di medici statunitensi utilizzano già il software di “dettatura medica” di Nuance. E questa spinta verso l’automazione completa è un passo “incrementale”, ma importante, nelle più ampie “ambizioni” di Microsoft di sviluppare e vendere nuovi prodotti a circa la metà dei medici statunitensi.
Nuance stima che, mediamente, un medico spenda circa quindici minuti per redigere la documentazione per ogni visita del paziente e che DAX abbinato ad un revisore umano della qualità (la versione attuale) contribuisca a tagliare tale tempistica di circa sette minuti. E con la versione attuale di DAX è possibile garantire l’accuratezza della nota generata dall’Intelligenza Artificiale, sebbene con un grosso inconveniente: un tempo di ritardo fino a quattro ore. Con il futuro DAX abbinato a GPT-4, invece, Nuance afferma che la documentazione del paziente potrà essere pronta in pochi secondi. Il piano del colosso di Redmond prevede di distribuire la nuova versione a circa cinquecento medici statunitensi quest’estate. Anche se la velocità potrebbe non essere importante se i medici devono costantemente tornare indietro e controllare il lavoro fatto dal software. E dovranno farlo, visto che sono loro i responsabili sul piano legale dei contenuti immessi nella documentazione sanitaria dei pazienti (come le cartelle cliniche). Microsoft e Nuance affermano che l’integrazione di GPT-4 in DAX migliora l’accuratezza complessiva dei modelli di Intelligenza Artificiale, pur non sbilanciandosi sul tasso di precisione di tale accuratezza.
Le criticità
La rivista statunitense Forbes, sul punto, ha affermato di aver riscontrato un errore nella documentazione prodotta da DAX con GPT-4: il nuovo applicativo di Nuance, secondo Forbes, in un caso ha scritto che il mal di schiena della paziente X era iniziato a cinquanta anni mentre, durante l’esame, la paziente X aveva riferito che il dolore era iniziato a venti anni. Un errore non da poco. Con un sistema di Intelligenza Artificiale c’è sempre un potenziale di errore, non può mai esserci un’accuratezza del cento per cento; per cui si risparmia tempo, ma il medico rimane responsabile della documentazione prodotta dall’Intelligenza Artificiale.
Altre preoccupazioni sull’accuratezza riguardano il contesto in cui lo strumento viene utilizzato. Per ora, la tecnologia può essere utilizzata in una sala per gli esami, con un rapporto medico-paziente “esclusivo” e riservato. Una sfida futura è se un applicativo come DAX potrà funzionare in ambienti più frenetici, come i pronto soccorso degli ospedali, dove ci sono molte più voci e diverse “distrazioni”. Inoltre, vi è la diversità delle popolazioni di pazienti che i medici vedono ogni giorno e il modo in cui questi modelli si comporteranno con accenti diversi o con persone non di madrelingua inglese (o nelle lingue nazionali ove verranno applicati). I modelli di Nuance sono stati addestrati su otto milioni di visite di pazienti in tutti gli Stati Uniti. Il software è attualmente costruito per l’inglese americano, ma Nuance sta progettando di espandersi implementando lo spagnolo e l’inglese non americano.
Uno dei passi fondamentali per l’introduzione dell’Intelligenza Artificiale “ambientale” nelle strutture sanitarie sarà la convalida dei modelli su popolazioni diverse e la comprensione e comunicazione dei limiti della tecnologia. Ci sono già molti modi in cui il sistema sanitario risulta iniquo, poiché tratta in modo diverso i gruppi a basso reddito e le persone di etnia diversa; e questa potrebbe essere un’ulteriore area che aggrava la situazione (i pregiudizi dell’Intelligenza Artificiale sono sempre dietro l’angolo).
Il cambiamento culturale vero freno dell’adozione di DAX
Uno dei maggiori ostacoli all’utilizzo di DAX da parte dei medici sarà il cambiamento culturale in termini di ciò che può andare “perso” quando le macchine prenderanno il posto della scrittura manuale. Sebbene la documentazione medica tratti il problema principale del paziente, l’anamnesi, le prescrizioni, la visita e il piano di follow-up, il modo in cui essa viene redatta può variare notevolmente da medico a medico (ad esempio, uno può essere più prolisso, l’altro più conciso nella redazione). Nella versione attuale di DAX (con il revisore umano), vi è l’opportunità di una certa personalizzazione.
Ad esempio, il revisore umano può inserire nella nuova nota informazioni tratte da precedenti cartelle cliniche basate sulle preferenze del medico, come i risultati di esami di laboratorio o la storia del paziente. Per il momento, Microsoft e Nuance intendono continuare a offrire ai clienti entrambe le versioni: quella con revisione umana e quella completamente automatizzata. Ma il prossimo passo sarà capire come rendere la versione automatizzata con GPT-4 più personalizzata. Si inizierà con lo sviluppo di diversi modelli stilistici tra cui i medici potranno scegliere, con opzioni, ad esempio, più o meno discorsive, per quanto riguarda la lunghezza e la quantità di informazioni incluse nelle documentazioni. Nuance lavorerà anche per automatizzare altre funzioni che attualmente vengono svolte dal revisore umano, come ad esempio l’estrazione di informazioni da precedenti documenti elaborati dai medici. Se, finora, l’obiettivo principale è stato quello di documentare correttamente ogni passo, il futuro includerà funzioni come la preparazione degli ordini, la raccomandazione delle diagnosi e la generazione di istruzioni post-visita per il paziente; il che significa che i software punteranno a diventare degli assistenti del flusso di lavoro dei medici. Nei prossimi mesi e anni, quando un numero maggiore di medici inizierà a utilizzare il DAX completamente automatizzato, gli ospedali inizieranno a comprendere se l’Intelligenza Artificiale potrà davvero alleggerire gli oneri amministrativi che stanno esaurendo il tempo quotidiano a disposizione dei medici.[3]
[1] Providence Improves Clinical Workflows with Nuance DAX Solution. FindBiometrics.
[2] ‘We’re getting much more aggressive’: Microsoft’s Nuance adds GPT-4 AI to its medical note-taking tool. STAT.
[3] Microsoft Wants To Automate Medical Notes With GPT-4— But Doctors Need Convincing. Forbes.
