Quando l’intelligenza artificiale entra in corsia, la domanda più semplice è anche la meno utile: “chi decide, il medico o la macchina?”. Nella pratica clinica la risposta sarà quasi sempre: entrambi. Ed è proprio qui che nasce il problema più interessante, e meno discusso, dell’uso dei large language model in medicina. Non tanto la possibilità che l’algoritmo sbagli — eventualità ormai nota — quanto il rischio che la responsabilità della decisione diventi progressivamente indistinta.
Il medico firma, l’AI suggerisce, l’ospedale acquista il sistema, il fornitore ne definisce l’architettura. Se qualcosa va storto, tutti hanno partecipato alla decisione e nessuno sembra averla davvero controllata.
Indice degli argomenti
Supervisione umana dell’AI in medicina: perché “human in the loop” non basta
È facile rassicurarsi con una formula: “human in the loop”. C’è un professionista alla fine della catena, dunque il sistema è sicuro. Ma la presenza fisica di un essere umano non equivale alla presenza di un giudizio umano.
Un medico che deve validare decine di sintesi, lettere di dimissione, ipotesi diagnostiche o raccomandazioni generate dall’AI durante un turno sovraccarico può trasformarsi, senza volerlo, nel certificatore di un processo che non ha realmente il tempo di verificare. La supervisione diventa allora una firma digitale apposta su una decisione già costruita altrove.
LLM in medicina e automation bias
Il punto è che gli LLM non assomigliano ai vecchi software clinici. Non si limitano a restituire un numero, un alert o un valore fuori soglia. Parlano. Argomentano. Producono testi coerenti, ordinati, convincenti. E la persuasività linguistica è una tecnologia di influenza.
Una risposta sbagliata, ma formulata bene, può essere cognitivamente più pericolosa di un dato palesemente anomalo, perché riduce la propensione di chi legge a metterla in discussione. L’automation bias non nasce soltanto dalla fiducia nella tecnologia: nasce anche dalla fatica, dalla scarsità di tempo e dal fatto che l’AI offre una soluzione immediatamente disponibile.
Una sperimentazione pubblicata su JAMA Network Open nel 2024 ha mostrato qualcosa di illuminante: mettere GPT-4 a disposizione dei medici non migliorava automaticamente il ragionamento diagnostico, mentre il modello usato autonomamente otteneva, in quel contesto sperimentale, risultati migliori del gruppo di controllo. Non significa che la macchina “sia migliore del medico”. Significa piuttosto che la qualità della collaborazione uomo-macchina non può essere data per scontata.
L’accesso a uno strumento potente non crea, da solo, un professionista aumentato. Può creare anche un professionista distratto, ancorato al primo suggerimento o poco preparato a contestarlo.
AI literacy e qualità della collaborazione uomo-macchina
Altri studi mostrano che la situazione cambia quando i medici ricevono una formazione specifica sull’uso degli LLM. In un trial pubblicato nel 2026 su Nature Health, medici che avevano seguito un percorso di AI literacy hanno ottenuto risultati migliori con il supporto del modello.
Anche questo dato va interpretato con prudenza, ma suggerisce una conclusione rilevante: la sicurezza non risiede soltanto nell’algoritmo. Risiede nelle competenze, nei tempi, nelle procedure e nell’organizzazione che lo circondano.
È qui che l’etica dell’AI cambia natura. Smette di essere una lista di principi — trasparenza, equità, privacy, accountability — e diventa progettazione del lavoro. Chi controlla l’output? In quale momento? Con quali dati? Quanto tempo ha? Può rifiutare la raccomandazione senza dover giustificare ogni deviazione? Esiste una procedura di escalation? Vengono registrati gli errori intercettati e quelli sfuggiti? La supervisione, per essere reale, deve lasciare tracce osservabili.
AI Act e supervisione umana dei sistemi ad alto rischio
Anche l’AI Act europeo va in questa direzione. Per i sistemi ad alto rischio, l’articolo 14 richiede che la supervisione umana sia effettiva e proporzionata al rischio, al livello di autonomia e al contesto d’uso. Chi controlla deve poter comprendere capacità e limiti del sistema, interpretarne gli output, ignorarli, modificarli o interromperne l’uso. È un passaggio importante perché sposta la responsabilità dalla semplice presenza di un operatore alla sua effettiva capacità di intervento.
Il costo della supervisione umana dell’AI
Ma c’è un ulteriore problema, ancora più profondo. Se controllare bene l’AI richiede al medico di ricostruire da zero ogni ragionamento, verificare ogni dato e controllare ogni fonte, l’automazione perde parte del suo vantaggio.
Nasce così quello che potremmo definire un “costo della supervisione”: il tempo e l’attenzione necessari per rendere sicuro un sistema che dovrebbe, almeno in teoria, far risparmiare tempo. Se questo costo viene ignorato, l’ospedale può guadagnare velocità apparente e perdere sicurezza reale.
È una questione anche economica. Il beneficio di un sistema di AI non può essere misurato soltanto contando i minuti risparmiati nella compilazione di una cartella o nella produzione di un referto. Bisognerebbe sottrarre il tempo necessario alla verifica, alla formazione, alla gestione degli errori e all’audit.
Un’automazione che riduce di cinque minuti la produzione di un documento ma ne richiede quattro per un controllo serio non produce lo stesso guadagno organizzativo di un sistema che possa essere verificato rapidamente e con elevata affidabilità.
Il controllo degli LLM deve dipendere dal rischio clinico
Per questo non tutti gli usi degli LLM devono essere trattati allo stesso modo. Generare una bozza amministrativa, riassumere una cartella clinica, proporre una diagnosi differenziale e suggerire una priorità di triage non sono attività equivalenti. Aumentando il potenziale danno deve aumentare anche l’intensità del controllo.
Nei casi più delicati potrebbe perfino essere utile impedire che il medico veda subito il suggerimento dell’AI, chiedendogli prima una valutazione indipendente. Solo dopo le due valutazioni possono essere confrontate. È un modo semplice per ridurre il rischio che il suggerimento iniziale della macchina diventi l’ancora cognitiva attorno alla quale si costruisce tutto il resto.
Governance dell’AI nelle strutture sanitarie
La questione riguarda anche la responsabilità delle strutture sanitarie. Non è accettabile che un ospedale introduca un sistema di AI, ne tragga benefici organizzativi e poi trasferisca integralmente sul singolo professionista l’onere di verificare ogni errore possibile.
La governance deve essere istituzionale: selezione dei casi d’uso, validazione locale, formazione obbligatoria, monitoraggio degli override, audit periodici, valutazione degli effetti sui diversi gruppi di pazienti e controllo dopo ogni aggiornamento del modello.
La stessa Organizzazione mondiale della sanità insiste sulla necessità di governance, valutazioni d’impatto e auditing, non soltanto sulla qualità tecnica dei modelli.
Il futuro delle decisioni ibride tra medici e algoritmi
Il futuro della medicina non sarà probabilmente una competizione tra medici e algoritmi. Sarà una lunga fase di decisioni ibride, in cui il confine tra consiglio, influenza e scelta finale sarà sempre più sottile.
Proprio per questo la domanda decisiva non è se un essere umano rimanga “nel circuito”. La vera domanda è se quell’essere umano conservi il tempo, l’autonomia, le competenze e il potere necessari per dire di no.
Se non li conserva, la supervisione umana rischia di diventare il più rassicurante dei dispositivi burocratici: una responsabilità formalmente umana costruita sopra una decisione che, nella sostanza, nessuno ha più davvero governato.
Partecipa alla community