Provate a immaginare un tostapane che, per essere venduto, deve superare un unico collaudo in fabbrica: da quel momento in poi nessuno controlla più se continua a tostare il pane o se, un giorno, decide di incendiarlo. Funziona così, oggi, per buona parte dei software di intelligenza artificiale che entrano in corsia: un timbro all’inizio, e poi il vuoto.
La Food and Drug Administration americana, la stessa agenzia che approva farmaci e dispositivi medici negli Stati Uniti, ha appena scritto nero su bianco che questo modello non regge più quando il “dispositivo” è un’intelligenza artificiale generativa capace di rispondere in modo diverso ogni volta che le si pone la stessa domanda.
E se la logica del tostapane non basta più agli americani, che dire di noi, che il tostapane lo stiamo ancora certificando con la carta carbone?
Indice degli argomenti
Come la FDA vuole regolare l’IA generativa in sanità
Il documento si intitola “Considerations for the Regulation of Generative AI-Enabled Medical Devices”[1], pubblicato il 18 agosto 2026 dal Center for Devices and Radiological Health (CDRH) della FDA. Attenzione, però: non è una norma, non è nemmeno una bozza di linee guida, ma un discussion paper, ventisei domande aperte rivolte a produttori, medici, pazienti e ricercatori, con i commenti che si chiudono il 19 ottobre 2026. Sembra poco.
Ma è già più di quanto l’Italia e l’Europa abbiano scritto sull’IA generativa in sanità, tra un MDR e un AI Act che parlano ancora il linguaggio degli algoritmi statici, non quello di un chatbot che oggi risponde in un modo e domani, aggiornato dal fornitore dall’altra parte dell’oceano, risponde diversamente.
Il punto di partenza è onesto: un software di intelligenza artificiale generativa (GenAI) non si comporta come il software “tradizionale” che la sanità digitale conosce da vent’anni. Accetta domande aperte, produce output diversi davanti allo stesso input, ed è spesso costruito sopra modelli di terze parti — le cosiddette foundation model — sulle quali chi vende il dispositivo medico ha visibilità limitata.
Tradotto: se il chatbot clinico appena acquistato “allucina” una diagnosi verosimile, potrebbe non essere colpa di chi lo ha venduto, ma di un modello linguistico addestrato altrove, aggiornato senza preavviso, di cui nessuno — probabilmente nemmeno il fornitore — conosce fino in fondo il comportamento.
Una matrice di rischio per l’IA generativa in corsia
La prima proposta della FDA è una matrice di rischio a due assi, tanto semplice quanto, finalmente, sensata: da un lato quanto il software “agisce” — si limita a informare, spinge verso un’azione, oppure la esegue lui stesso, con o senza supervisione di un professionista — dall’altro quanto è grave l’errore se l’output sbagliato viene seguito[2].
Non è la stessa cosa suggerire una crema per l’edera velenosa e modificare la dose di insulina basale; non è lo stesso portare un figlio con mal di gola dal pediatra o decidere, da soli, se un dolore al petto merita il pronto soccorso.
Calata sulla mole di app, chatbot sintomatici e assistenti virtuali che già oggi popolano la sanità digitale italiana, una classificazione così restituirebbe finalmente un criterio operativo a chi — Ministero della Salute, Regioni, Garante Privacy e, sì, anche la nostra fragile governance dell’AI Act — oggi si limita perlopiù a etichettare tutto come “alto rischio” o “nessun rischio”, senza vie di mezzo.
Valutare l’IA generativa in sanità come un medico
Ma l’idea più interessante, e più radicale, riguarda il modo in cui questi sistemi dovrebbero essere valutati prima di arrivare sul mercato. La FDA parte da una domanda scomoda: come valutiamo un medico? Non lo sottoponiamo a un test che copra ogni possibile paziente che incontrerà in quarant’anni di carriera — sarebbe impossibile — lo valutiamo con esami di abilitazione, tirocini a complessità crescente, specializzazioni, e poi con l’aggiornamento continuo. Perché non fare lo stesso con l’intelligenza artificiale?
Il documento propone un approccio “basato sulle competenze”: prima un benchmarking non clinico su quattro aree — sicurezza, competenza clinica, capacità di generalizzare su sottogruppi di pazienti diversi e, per i sistemi più autonomi, competenze “agentiche”; poi una “conferma clinica” che può andare dalla semplice rilettura retrospettiva di casi reali fino allo studio clinico prospettico randomizzato, passando per soluzioni intermedie come lo shadow deployment, in cui il sistema lavora in corsia in tempo reale ma i suoi output restano nascosti a medici e pazienti, usati solo per misurarne l’accuratezza[3].
Non tutti i dispositivi dovranno affrontare lo scalino più alto: il rigore richiesto cresce con la posizione sulla matrice di rischio, non con la semplice presenza di un modello linguistico.
Pazienti e professionisti davanti a rischi diversi
C’è un passaggio che meriterebbe di essere incorniciato nelle sale operative di ogni Regione italiana: la FDA distingue le funzioni rivolte al paziente da quelle rivolte al professionista, perché un medico è meglio equipaggiato per riconoscere un output sbagliato, mentre un paziente rischia di fidarsi anche quando non dovrebbe.
In un Paese dove, secondo l’OCSE PaRIS, solo il 24% delle persone con patologie croniche si dice sicuro di saper gestire la propria salute, contro una media internazionale del 59%[4], non è una sottigliezza da manuale: è la differenza tra un’intelligenza artificiale che aiuta davvero i più fragili e una che li espone a un rischio mai misurato.
Sorveglianza continua per l’intelligenza artificiale sanitaria
E qui arriva la seconda rottura culturale, quella che dovrebbe far riflettere chi in Italia considera la certificazione CE un traguardo, non una tappa: la FDA ipotizza di accettare più incertezza in fase di autorizzazione, in cambio di sorveglianza continua nel tempo — nuovo benchmarking periodico, revisione a campione da parte di medici indipendenti, monitoraggio del degrado delle prestazioni (il cosiddetto drift), persino “agenti di supervisione” basati a loro volta sull’intelligenza artificiale[5].
La responsabilità, inoltre, non ricade sul solo produttore, ma su un ecosistema che comprende clinici, ospedali, pagatori e società scientifiche, ognuno con un ruolo dichiarato, non lasciato al contenzioso assicurativo del giorno dopo.
Dettaglio che vale la pena portare a casa: i fornitori dei modelli di base — gli OpenAI, i Google, gli Anthropic di turno — potranno depositare presso l’agenzia fascicoli riservati sul funzionamento dei propri modelli (i Foundation Model Device Master File), consultabili da chi costruisce dispositivi medici sopra di essi senza svelare segreti industriali a ogni cliente: un modo elegante per rompere l’opacità che oggi, in Italia più che altrove, avvolge quasi ogni strumento di IA sanitaria costruito su un modello linguistico straniero.
L’Italia di fronte all’IA generativa in sanità
Cosa c’entra tutto questo con noi? L’Italia arriva già in ritardo sulla trasformazione digitale della sanità: fascicolo sanitario che non dialoga tra Regioni, videoconsulti marginali, cittadini poco attrezzati a fidarsi degli strumenti digitali. Aggiungere l’intelligenza artificiale generativa a un sistema che fatica già a far parlare tra loro due cartelle cliniche è come montare un motore di Formula 1 su un’utilitaria con le gomme lisce: prima o poi la carreggiata si accorcia.
Matrice di rischio, benchmark e controlli post-market
Tre cose, in particolare, meriterebbero di essere copiate senza vergogna.
Primo: una matrice di rischio semplice e pubblica, che distingua un chatbot che spiega gli effetti collaterali di un farmaco da un sistema che, da solo, decide se un referto merita l’urgenza. Oggi in Italia manca un criterio del genere, e la conseguenza è che alcune applicazioni circolano sotto il radar mentre strumenti utilissimi restano bloccati per anni negli stessi cavilli pensati per un pacemaker.
Secondo: un repertorio nazionale di benchmark clinici — coordinato da AGENAS o dall’Istituto Superiore di Sanità — per valutare l’IA come si valuta uno specializzando, con casi simulati, invece di pretendere un randomizzato controllato per ogni assistente che aiuta a scrivere una lettera di dimissione.
Terzo: una sorveglianza post-market vera, non un timbro CE che dura quanto la carta su cui è stampato, con revisioni periodiche, soglie di allerta sul degrado delle prestazioni e una divisione chiara delle responsabilità tra chi produce il modello, chi lo integra e chi lo usa in corsia. Il giorno in cui un’intelligenza artificiale sbaglierà una diagnosi — e succederà — nessuno dovrebbe scoprire solo allora chi doveva controllarla.
Il ritardo italiano sull’IA generativa in sanità
Non serve aspettare che la FDA chiuda la raccolta commenti il 19 ottobre per cominciare a ragionarci[6]: la buona notizia è che, questa volta, il compito a casa lo hanno già scritto altri, e sta a noi decidere se copiarlo o continuare a inventare la ruota — quadrata — da soli.
La cattiva notizia è che, conoscendo i tempi con cui la sanità italiana recepisce le innovazioni regolatorie, quando finalmente ne discuteremo sul serio staremo probabilmente già inseguendo la tecnologia successiva. Tardiva, come sempre. Ma non per questo meno necessaria.
La rubrica Ctrl+Alt+Health di Sergio Pillon segue le evoluzioni e le contraddizioni della Sanità digitale
Note
[1] FDA, “Considerations for the Regulation of Generative AI-Enabled Medical Devices”, discussion paper, 18 agosto 2026, docket FDA-2026-N-7874, commenti aperti fino al 19 ottobre 2026. https://www.fda.gov/media/194242/download ↩
[2] FDA, “Considerations for the Regulation of Generative AI-Enabled Medical Devices”, discussion paper, 18 agosto 2026, sezione sulla matrice di rischio a due assi. https://www.fda.gov/media/194242/download ↩
[3] FDA, “Considerations for the Regulation of Generative AI-Enabled Medical Devices”, discussion paper, 18 agosto 2026, sezione sull’approccio basato sulle competenze. https://www.fda.gov/media/194242/download ↩
[4] OECD, “PaRIS key indicators: How do countries compare?”, in Does Healthcare Deliver? Results from the Patient-Reported Indicator Surveys (PaRIS), 2025 — Italia: 24% di confidenza nell’autogestione della propria salute, contro una media OCSE del 59%. https://www.oecd.org/en/publications/2025/02/does-healthcare-deliver_978507f1/full-report/paris-key-indicators-how-do-countries-compare_efb26e2a.html ↩
[5] FDA, “Considerations for the Regulation of Generative AI-Enabled Medical Devices”, discussion paper, 18 agosto 2026, sezione sulla sorveglianza post-market. https://www.fda.gov/media/194242/download ↩
[6] FDA, “Considerations for the Regulation of Generative AI-Enabled Medical Devices”, discussion paper, 18 agosto 2026, richiesta di commenti pubblici. https://www.fda.gov/media/194242/download ↩
Partecipa alla community