A quasi quattro anni dall’esplosione di ChatGPT sul mondo, ci aspetteremmo che avessimo ormai imparato a usare l’intelligenza artificiale generativa con maggiore contezza. E invece: gli episodi di utilizzo superficiale o addirittura irresponsabile continuano a moltiplicarsi.
Avvocati che inventano sentenze. Libri, articoli e saggi dove si inventano citazioni e riferimenti. Aziende che producono documenti con robaccia.
Ci sarebbe da ridere, se non ci fosse da piangere: imparare quando e come usare l’AI generativa è importante, non solo per i singoli coinvolti, ma anche per terzi. I danni da allucinazione si espandono infatti in lungo in largo e possono anche minare le fondamenta di qualcosa alla base di ogni rivoluzione digitale: l’adoption consapevole della tecnologia.
Il tema è vecchio ed è bene conoscerne la storia. Non nasce con l’AI generativa. Nella letteratura sui sistemi di supporto alle decisioni è noto da tempo come automation bias (o over reliance nei sistemi informatici): la tendenza ad accettare l’indicazione prodotta da un sistema automatico anche quando è errata o dovrebbe essere verificata.
Già Raja Parasuraman e Victor Riley, in un lavoro del 1997 su uso, abuso, disuso e cattivo uso dell’automazione, descrivevano il rischio di una delega impropria al sistema. Una review pubblicata nel 2012 su Journal of the American Medical Informatics Association da Kate Goddard, Abdul Roudsari e Jeremy C. Wyatt ha poi ricondottol’over reliance a fattori come fiducia percepita nello strumento, carico cognitivo e difficoltà di verifica.
L’AI generativa accelera però il rischio e lo estende praticamente in ogni ambito dello scibile.
Indice degli argomenti
L’uso acritico dell’AI generativa nei tribunali, ecco gli errori chatgpt
Il caso più noto resta quello degli avvocati che presentano in tribunale precedenti giurisprudenziali inesistenti generati da ChatGPT.
Negli Stati Uniti il fenomeno è ormai diventato quasi una categoria giuridica a sé. Il giurista e ricercatore francese Damien Charlotin tiene addirittura un database dedicato ai casi di uso improprio dell’AI nei tribunali. In pochi anni è passato da qualche centinaio a circa 1.500 episodi documentati.
Solo quest’anno, in Oregon, alcuni avvocati sono stati condannati a oltre 100 mila dollari di sanzioni per aver citato numerosi precedenti inventati da sistemi di AI generativa.
Ma il problema non riguarda solo gli Stati Uniti.
Le sentenze inesistenti in Italia
In Italia il caso più citato è l’ordinanza del Tribunale di Firenze, sezione imprese, del 14 marzo 2025, in cui una comparsa di costituzione conteneva riferimenti a sentenze della Cassazione inesistenti o con contenuto diverso da quello riportato, attribuiti all’uso di ChatGPT senza controllo sulle fonti. Il Tribunale ha escluso in quel caso la responsabilità aggravata ex art. 96 c.p.c., ma ha ribadito che il difensore deve verificare la veridicità delle ricerche anche quando usa strumenti di AI.
Più severa la linea del Tribunale di Torino, il 16 settembre 2025, e del Tribunale di Latina, il 23 settembre 2025, richiamati dalla dottrina per atti redatti con il supporto dell’intelligenza artificiale e composti da citazioni normative e giurisprudenziali astratte, disordinate o inconferenti, con condanna per responsabilità aggravata.
Nel 2026, il Tribunale di Siracusa, con la sentenza n. 338 del 20 febbraio, ha qualificato come colpa grave l’uso acritico di AI generativa con citazione di precedenti inesistenti o difformi, senza verifica sulle fonti primarie.
Il settore legale rende il problema particolarmente evidente perché l’errore non si presenta necessariamente come una risposta assurda. Spesso assume la forma di un riferimento credibile, scritto nel linguaggio corretto e inserito in un ragionamento apparentemente ordinato. Lo studio Large Legal Fictions, pubblicato nel 2024 sul Journal of Legal Analysis da ricercatori di Stanford RegLab e Stanford HAI, ha misurato le legal hallucinations in risposte a quesiti giuridici verificabili sul diritto statunitense, mostrando quanto sia insidiosa la produzione di citazioni, norme e precedenti plausibili ma falsi.
Il nodo delle fonti ufficiali
I richiami istituzionali sono arrivati su due piani. Il Consiglio superiore della magistratura, con la delibera dell’8 ottobre 2025 sulle raccomandazioni per l’uso dell’AI nell’amministrazione della giustizia, ha chiesto supervisione umana, verificabilità degli output, uso di fonti ufficiali e cautele specifiche su dati riservati e atti di procedimento.
Per l’avvocatura, la Guida del CCBE sull’uso dell’intelligenza artificiale generativa da parte degli avvocati, diffusa in Italia con traduzione dell’Ufficio di rappresentanza del Cnf a Bruxelles, segnala espressamente il rischio di allucinazioni: giurisprudenza fittizia, decisioni inesistenti, attribuzioni errate e argomentazioni plausibili ma inventate. La stessa guida collega l’uso dell’AI agli obblighi di competenza professionale, verifica dell’output, riservatezza e responsabilità deontologica.
Sappiamo ormai qual è il problema. I modelli linguistici non ragionano come un giurista e non consultano automaticamente banche dati certificate. Producono invece la sequenza di parole statisticamente più probabile. Quando manca l’informazione corretta, possono generare riferimenti perfettamente credibili ma del tutto inesistenti.
Lo sanno anche molti di quelli che cadono nell’errore. Il problema però è più serio di quanto sembri: quando (e quanto) ci si può fidare dei risultati AI? Come controllare l’output?
Errori chatgpt in giornalismo, editoria e politica
Continuiamo con la gallery degli orrori. Il problema investe anche il mondo dell’informazione e dell’editoria.
Negli ultimi mesi sono emersi casi di giornalisti sospesi (uno anche del New York Times, che pure è in causa con OpenAI) o richiamati per aver pubblicato contenuti generati o rielaborati con AI senza adeguati controlli editoriali. In diversi casi sono state individuate citazioni inventate, errori fattuali o attribuzioni scorrette.
Particolarmente emblematico è stato il caso dell’imprenditore americano Steven Rosenbaum, che ha ammesso la presenza di citazioni false o attribuite erroneamente nel suo libro che pure di questo trattava: The Future of Truth: How AI Reshapes Reality.
Anche il settore politico non è immune. Nel Regno Unito alcuni parlamentari sono stati criticati per l’utilizzo di ChatGPT nella gestione delle comunicazioni con gli elettori o nella redazione di documenti pubblici.
Forma corretta, contenuto falso
Il rischio è evidente: quando un testo è formalmente corretto e ben scritto, la tentazione di considerarlo automaticamente affidabile aumenta. Ma forma e verità non coincidono.
Aziende e AI generativa: quando manca la verifica umana
Il mondo aziendale offre esempi altrettanto significativi.
Ha fatto discutere il caso della società canadese Li-FT Power, il cui documento di corporate governance destinato agli investitori conteneva una frase priva di senso (se non proprio scabrosa), probabilmente frutto di un utilizzo improprio di strumenti generativi:
“You will change in share are all ejaculated out your helpful girlfriend issue she asked the councils responsible.”
Una frase che nessun revisore umano avrebbe dovuto lasciar passare.
L’episodio è interessante perché mostra un fenomeno sempre più frequente: l’AI viene utilizzata per accelerare la produzione documentale, ma i processi di controllo non vengono adeguati alla nuova realtà. Si automatizza la scrittura senza rafforzare la verifica.
AI generativa e automation bias: perché la fiducia diventa rischio
Alla base di molti di questi errori c’è un meccanismo psicologico preciso.
Per la prima volta nella storia disponiamo di strumenti capaci di produrre risposte articolate, coerenti e linguisticamente impeccabili praticamente su qualsiasi argomento.
La qualità della forma induce facilmente a sovrastimare la qualità del contenuto.
È un fenomeno che gli studiosi chiamano automation bias: la tendenza ad attribuire maggiore affidabilità alle decisioni prodotte da un sistema automatico rispetto a quelle formulate da un essere umano.
L’AI generativa amplifica enormemente questo rischio perché non si limita a fornire un risultato: lo argomenta, lo contestualizza, lo presenta con sicurezza. E gli esseri umani tendono a confondere la sicurezza espositiva con l’accuratezza.
Dall’uso acritico dell’AI generativa alla responsabilità professionale
La domanda è inevitabile: dopo anni di esperienza, perché continuiamo a commettere gli stessi errori?
Una prima spiegazione è che l’adozione dell’AI è stata molto più rapida della maturazione delle competenze necessarie per utilizzarla.
Milioni di professionisti hanno iniziato a usare questi strumenti prima ancora che si sviluppassero procedure condivise, linee guida consolidate e percorsi formativi adeguati.
Perché i controlli saltano
In secondo luogo, ci troviamo in una fase storica in cui i benefici dell’AI sono immediatamente visibili mentre i rischi emergono solo in un secondo momento.
Risparmiare mezz’ora nella redazione di un documento è un vantaggio tangibile. Verificare ogni singola informazione richiede invece tempo, disciplina e competenze. La tentazione di saltare i controlli è forte.
C’è poi un elemento culturale più profondo. Per decenni abbiamo associato l’informatica all’idea di precisione. Se una calcolatrice restituisce un risultato sbagliato, il problema è quasi sempre umano. Con i modelli linguistici la situazione è diversa: la probabilità di errore non è un’anomalia, è una caratteristica strutturale del sistema.
Molti utenti non hanno ancora interiorizzato questa differenza.
Compiti circoscritti e decisioni sensibili
La lezione che sta emergendo è che l’AI generativa funziona meglio quando viene utilizzata per compiti circoscritti e ben definiti, magari dove la verificabilità è immediata (come nella programmazione del codice, che o è eseguibile o va in crash).
Molto più rischioso è delegare all’AI attività che richiedono responsabilità professionale diretta: verifiche giuridiche, valutazioni cliniche, decisioni amministrative, analisi finanziarie o attribuzione di fonti.
In altre parole, non basta mantenere “l’essere umano nel loop”. Occorre che l’essere umano resti effettivamente al comando.
La letteratura più recente sull’interazione uomo-AI converge su un punto: il rimedio non può limitarsi a una generica raccomandazione di controllo.
Studi sperimentali su decisioni assistite da AI, tra cui il lavoro di Helena Vasconcelos e altri ricercatori pubblicato nel 2023 sui Proceedings of the ACM on Human-Computer Interaction, mostrano che spiegazioni, incentivi e funzioni di frizione cognitiva possono ridurre l’over reliance solo quando spingono l’utente a confrontare l’output con fonti esterne, ragionamento proprio e segnali di incertezza.
Nel lavoro professionale questo significa banche dati primarie, tracciabilità delle verifiche e responsabilità personale su ogni informazione inserita in un atto, in un articolo, in un documento aziendale o in una decisione pubblica.
Imparare a usare l’AI generativa senza fidarsi troppo
Non credo che la proliferazione di questi incidenti sia il segnale di un fallimento dell’intelligenza artificiale. Potrebbe essere semplicemente il segno che stiamo attraversando una fase di adattamento.
Ogni tecnologia trasformativa attraversa un periodo in cui la società deve imparare a comprenderne limiti e potenzialità. È successo con Internet, con i social media e persino con i motori di ricerca.
Quando capiremo, collettivamente, cosa affidare all’AI e come controllare il suo lavoro, significherà che avremo raggiunto un livello di maturità nell’adoption da cui possiamo aspettarci, finalmente, i benefici sistemici a lungo promessi in questa rivoluzione tecnologica.
