Il 30 luglio 2025 il Garante per la protezione dei dati personali ha diffuso un comunicato su una prassi che definisce “sempre più diffusa”, quella di caricare analisi cliniche, radiografie e referti sulle piattaforme di intelligenza artificiale generativa “chiedendo interpretazioni e diagnosi”.
Il fenomeno, scrive l’Autorità, è “allarmante” per due ragioni distinte: la perdita di controllo su dati sanitari e il rischio che soluzioni “non specificamente progettate allo scopo” e “non rese disponibili al pubblico come dispositivi medici” forniscano indicazioni non accurate.
Indice degli argomenti
Chatbot medici in Europa: un uso di massa senza regole dedicate
A circa un anno di distanza, i numeri rilevano che il monito del Garante ha fotografato un’abitudine, non un’eccezione. Il report Salute Artificiale (Sociometrica e FieldCare per le fondazioni Italia in Salute e Pensiero Solido), presentato su questa testata a febbraio, stima che il 42,8% degli italiani usi già l’IA generativa per informarsi sulla salute e che tra i 18 e i 34 anni il 73% la preferisca ai tradizionali motori di ricerca.
L’Osservatorio Sanità di UniSalute, con un’indagine Nomisma su 1.300 persone diffusa a inizio settembre, conta sei italiani su dieci che cercano informazioni sulla salute online e con l’IA, mentre tre su quattro continuano a ritenere il medico più affidabile.
ChatGPT Health e il confine europeo
Il sistema più usato, nel frattempo, ha tracciato un confine geografico. ChatGPT Health, lo spazio dedicato che dal 7 gennaio 2026 collega cartelle cliniche e app di benessere, non è disponibile nello Spazio economico europeo, in Svizzera e nel Regno Unito. Paradossalmente, l’Europa resta fuori dal servizio pensato per la salute e dentro l’uso di fatto, quello in cui il referto viene caricato nella versione generalista, senza garanzie dedicate.
Ed è in questo scarto che i diritti del paziente incontrano il loro limite. Quando il consulto avviene fuori dalla relazione con un medico, le tutele del GDPR si fermano all’interfaccia: la rettifica corregge la scheda ma non il modello alla base, la revoca del consenso disattiva il servizio, l’accesso dice quali dati sono stati usati ma non quanto hanno pesato ai fini della generazione dell’output. Non tutti i chatbot che parlano di salute sono però la stessa cosa, e la differenza la fa il diritto prima ancora della tecnica.
Indice degli argomenti
- Dispositivo medico o assistente generalista: due regimi per lo stesso gesto
- Senza medico, la base giuridica resta il consenso
- La rettifica corregge la scheda, non il modello
- Revoca e accesso: diritti esercitabili, effetti dimezzati
- Chi risponde quando sbaglia: dal medico al produttore
- Progettare il servizio prima di distribuirlo
Chatbot medici tra dispositivi certificati e assistenti generalisti
La distinzione tra le due categorie si ricava, per esclusione, dallo stesso comunicato del Garante, che parla di soluzioni non “rese disponibili al pubblico come dispositivi medici a valle dei necessari test e controlli previsti dalla disciplina di settore”. Il regolamento (UE) 2017/745 sui dispositivi medici (allegato VIII, regola 11) classifica in classe IIa o superiore il software destinato a fornire informazioni utilizzate per decisioni con finalità diagnostiche o terapeutiche, con l’intervento di un organismo notificato e non una mera dichiarazione del produttore.
È la strada seguita da Ada, il symptom checker berlinese certificato in classe IIa dal dicembre 2022. Su questa prima categoria si innesta l’AI Act, che all’art. 6, par. 1, e all’allegato I qualifica ad alto rischio i sistemi di IA che sono dispositivi medici soggetti a valutazione di conformità di terzi, con obblighi che, dopo il regolamento (UE) 2026/1744 in vigore dal 27 luglio 2026 (cd. Digital Omnibus), si applicheranno dal 2 agosto 2028.
Gli assistenti generalisti fuori dalle regole cliniche
Nella seconda categoria – quella degli assistenti generalisti, dove finiscono referti e analisi – il fornitore non dichiara una destinazione d’uso medica e i termini di servizio escludono la diagnosi, sicché il software non è un dispositivo medico. Si applicano l’obbligo di trasparenza dell’art. 50 dell’AI Act (applicabile dal 2 agosto 2026 con le linee guida della Commissione del 20 luglio), gli obblighi del fornitore del modello per finalità generali e il GDPR, ma nessuna regola sull’affidabilità clinica della risposta. Il vuoto sta nella destinazione d’uso dichiarata, perché chi afferma di non fare diagnosi resta fuori dalla disciplina dei dispositivi anche se milioni di utenti gli chiedono esattamente quello.
Dati sanitari e consenso nei chatbot senza medico
Il GDPR vieta, in generale, il trattamento dei dati relativi alla salute, salvo che ricorra una delle eccezioni tassative dell’art. 9. Quella che regge l’attività sanitaria, la finalità di diagnosi e cura dell’art. 9, par. 2, lett. h), presuppone però che il trattamento avvenga sotto la responsabilità di un professionista soggetto al segreto (par. 3), e un servizio di consulto via IA senza medico non può invocarla, così come non può invocare la ricerca scientifica, che copre finalità diverse. Rimane il consenso esplicito della lett. a), da raccogliere per il servizio e, separatamente, per ogni ulteriore utilizzo dei dati.
La legge 23 settembre 2025, n. 132 ha regolato l’impiego dell’IA nell’attività sanitaria e nella ricerca, senza occuparsi dei servizi commerciali privi di un medico. L’art. 7 riconosce all’interessato il diritto “di essere informato sull’impiego di tecnologie di intelligenza artificiale” (comma 3) e qualifica i sistemi come supporto alla prevenzione e alla cura, “lasciando impregiudicata la decisione, che è sempre rimessa agli esercenti la professione medica” (comma 5), con una formulazione che presuppone un medico.
L’art. 8 dichiara di rilevante interesse pubblico la ricerca per sistemi di IA con finalità di prevenzione, diagnosi e cura e ammette l’uso secondario dei dati, privi degli elementi identificativi diretti, senza nuovo consenso, ma soltanto per soggetti pubblici, enti senza scopo di lucro, IRCCS e privati del settore sanitario che partecipano ai loro progetti di ricerca. Per il servizio commerciale che risponde direttamente al cittadino non esiste dunque una base giuridica diversa dal consenso, un fondamento fragile per un’attività alimentata da dati in tempo reale, come emerge appena il paziente prova a esercitare i propri diritti.
Chatbot medici e GDPR: dove si ferma la rettifica
Gli artt. 16 e 17 del GDPR riconoscono all’interessato il diritto alla rettifica dei dati inesatti e alla loro cancellazione, e presuppongono che il titolare sappia dove il dato è conservato. In un servizio conversazionale, i dati dell’utente si trovano su tre livelli distinti.
Il primo è il profilo, dove la rettifica opera come in qualunque archivio. Il secondo è la memoria del sistema, cioè quanto il servizio conserva tra una sessione e l’altra, anch’essa cancellabile. Il terzo sono i parametri del modello, nei quali il dato entra soltanto se il servizio lo utilizza per l’addestramento, e in quel caso la correzione non arriva, perché i parametri non conservano il dato come un record e non possono dimenticarlo su richiesta.
Un’allergia registrata per errore e poi corretta nel profilo continuerà a influenzare le risposte, se la conversazione che la conteneva è stata usata per addestrare il modello, fino a un nuovo ciclo di addestramento. Il Comitato europeo per la protezione dei dati, nel parere 28/2024 del dicembre 2024, ha chiarito che un modello addestrato con dati personali non è anonimo per definizione, che la valutazione va condotta caso per caso e che le tecniche di rimozione successiva (il cd. unlearning) sono una delle mitigazioni possibili, senza però sciogliere il nodo dell’esercizio dei diritti verso il modello già addestrato.
Il diritto è quindi esercitabile, ma il suo effetto dipende da una scelta di architettura che l’utente non vede e che il Garante invitava a verificare nelle informative, ricordando che molti servizi “consentono agli utenti di decidere la sorte dei dati e documenti caricati”. OpenAI, del resto, esclude l’addestramento sulle conversazioni di Health, mentre nella versione generalista la scelta è rimessa alle impostazioni dell’utente.
Revoca e accesso nei consulti di salute con l’IA
Sulla revoca del consenso il quadro è più lineare di quanto appaia. L’art. 7, par. 3, garantisce la revoca in qualunque momento e il par. 4, letto con le linee guida 05/2020 del Comitato europeo, esclude che sia libero il consenso a trattamenti non necessari imposto come condizione del servizio.
Se il consenso per il servizio è distinto da quello per gli usi ulteriori, l’interruzione del servizio alla revoca è legittima, perché senza i dati sui sintomi il consulto non può essere reso. Il problema è pratico prima che giuridico, dato che nel momento in cui il paziente si ritira il servizio si disattiva e nessuno subentra, a meno che un canale umano non sia stato previsto in fase di progettazione.
Sull’accesso vale un ragionamento analogo. L’art. 15, par. 1, lett. h), riconosce il diritto a “informazioni significative sulla logica utilizzata” in presenza di una decisione automatizzata ai sensi dell’art. 22, nozione che la Corte di giustizia ha letto in senso ampio nella sentenza SCHUFA del 7 dicembre 2023 (causa C-634/21).
Anche ammettendo che un’indicazione che orienta verso il pronto soccorso vi rientri, ciò che un modello linguistico può restituire è l’elenco dei dati considerati e non il peso che ciascuno ha avuto sulla risposta. Questa testata ha già affrontato la spiegabilità nelle strutture sanitarie, dove un medico risponde della decisione. Fuori da quella relazione, l’unico interlocutore resta l’interfaccia.
Responsabilità dei chatbot medici tra medico e produttore
La legge 24/2017 (Gelli-Bianco) disciplina la responsabilità delle strutture sanitarie e degli esercenti le professioni sanitarie, mentre la legge 219/2017 regola il consenso informato all’interno della relazione di cura. Il fornitore di un chatbot commerciale non rientra in nessuna delle due categorie e risponde oggi secondo le regole generali della responsabilità contrattuale ed extracontrattuale, con l’onere della prova a carico del danneggiato e condizioni d’uso che escludono ogni valore medico delle risposte.
Le nuove regole sulla responsabilità da prodotto
Il quadro è destinato a cambiare per effetto di due testi in arrivo, nessuno dei quali ancora vigente. La direttiva (UE) 2024/2853 sulla responsabilità per danno da prodotti difettosi considera il software, compresi i sistemi di IA, un prodotto, sicché il produttore risponde del difetto, inclusa la mancanza degli aggiornamenti necessari alla sicurezza, e il giudice può presumere il difetto e il nesso causale quando la complessità tecnica rende la prova eccessivamente difficile. La direttiva si applica ai prodotti immessi sul mercato dopo il 9 dicembre 2026 e lo schema di decreto legislativo di recepimento è all’esame delle Camere per il parere parlamentare.
In parallelo, il decreto attuativo della legge 132/2025 sulla responsabilità civile per i danni da IA, approvato in via definitiva dal Consiglio dei ministri il 4 agosto 2026 e in attesa di pubblicazione, introduce ordini di esibizione della documentazione tecnica e una presunzione di nesso causale in caso di violazione degli obblighi dell’AI Act.
In entrambi i casi, la difficoltà della prova si sposta dal danneggiato al produttore, e un’avvertenza che esclude ogni valore medico della risposta offre una copertura assai più debole quando il servizio viene valutato come prodotto, sul piano della sicurezza che il pubblico può legittimamente attendersi. In quel giudizio entra anche l’“intermediazione umana qualificata” che il Garante, nel comunicato del 2025, indica come presidio necessario nell’elaborazione dei dati sanitari, con richiamo all’art. 14 dell’AI Act.
Come progettare chatbot medici conformi alle regole europee
Letti insieme, i tre nodi della base giuridica, dei diritti che si fermano all’interfaccia e della responsabilità in arrivo indicano, per sottrazione, ciò che un servizio di consulto via IA dovrebbe prevedere prima dell’apertura al pubblico:
- un consenso su due livelli, uno per il servizio, limitato ai dati necessari, e uno per gli usi ulteriori, revocabili separatamente;
- un canale umano, da garantire anche quando il paziente revoca il consenso, perché l’intermediazione qualificata richiesta dal Garante è un percorso e non una riga di avvertenza;
- spazi separati e memorie cancellabili, con l’addestramento sui dati degli utenti escluso per impostazione predefinita, come l’architettura di Health dimostra possibile;
- una rettifica che raggiunge l’addestramento, con la pulizia dei dataset, la ricalibrazione periodica e, quando il modello è di terzi, obblighi contrattuali su cancellazione e riaddestramento;
- una valutazione d’impatto condotta prima del lancio e non dopo la prima contestazione;
- una qualificazione onesta della destinazione d’uso, perché chi promette di leggere un referto è già vicino alla regola 11.
Nessuno di questi elementi è nuovo, perché sono già scritti nel GDPR, nell’AI Act e nel decalogo del Garante dell’ottobre 2023. La via istituzionale esiste, con lo spazio europeo dei dati sanitari (regolamento (UE) 2025/327) e la piattaforma nazionale dell’art. 10 della legge 132/2025 gestita da AGENAS, che disegnano un impiego dell’IA in cui il medico resta all’interno del percorso di cura.
Il servizio commerciale senza medico è cresciuto al di fuori di quel disegno, ed è lì che i diritti del paziente vanno progettati e non soltanto enunciati: la differenza tra un servizio che li rispetta e uno che si limita a dichiararli sta nell’architettura decisa prima dell’apertura, più che nell’informativa.
Partecipa alla community