La decisione del Northern District of Mississippi nel caso Withers v. City of Aberdeen dello scorso 8 giugno merita attenzione non soltanto per il tema, ormai ricorrente, delle citazioni giurisprudenziali “allucinate” generate da strumenti di intelligenza artificiale, ma per il modo in cui il giudice ricostruisce la colpa professionale dei difensori. L’ordinanza non si limita infatti a stigmatizzare l’uso improprio dell’AI: essa afferma con nettezza che il vero problema non è la macchina che “inventa”, ma l’avvocato che firma senza verificare.
Indice degli argomenti
La decisione Withers v. City of Aberdeen è importante
Withers v. City of Aberdeen è una decisione destinata ad avere un’ampia eco perché riesce a evitare due errori opposti comunemente compiuti in questo ambito: da un lato, non demonizza l’intelligenza artificiale come tale, dall’altro, non minimizza il fenomeno delle allucinazioni come se si trattasse di inevitabili incidenti di percorso.
La lezione della sentenza è rigorosa: l’AI può assistere l’avvocato, ma non può sostituirne il giudizio professionale. Il cuore del problema non è tecnologico, ma deontologico e processuale. La Corte riafferma i principi classici del dovere di verifica, della responsabilità del firmatario dell’atto, del dovere di supervisione del dominus, della tutela dell’integrità del processo – principi che sussistono anche nell’ordinamento della professione forense italiano e nel codice deontologico – e li applica con particolare rigore al nuovo contesto dell’AI generativa.
L’analisi di questa ordinanza ci consente pertanto di verificare quali sono e possono essere le best practice per l’utilizzo corretto da parte di uno studio legale degli strumenti di intelligenza artificiale.
Il nucleo della decisione: l’AI non sostituisce il dovere di verifica
Il passaggio più importante della sentenza è probabilmente quello in cui la Corte afferma che la tecnologia generativa può produrre parole, ma non può garantire verità, sincerità o responsabilità. Queste restano, integralmente, in capo al legale che sottoscrive l’atto.
La Corte ribadisce che l’obbligo di controllo imposto dalla normativa è personale, non delegabile e non esternalizzabile: non può essere trasferito né alla macchina, né ad un collega di studio che ha redatto (o un praticante), né alla mancanza di prassi organizzativa o policy dello studio.
In questa prospettiva, la cosiddetta “allucinazione” non è trattata come un difetto eccezionale o sorprendente del software. Al contrario, il giudice sottolinea che i rischi connessi all’uso dell’AI generativa in ambito legale sono ormai ampiamente noti. Di conseguenza, non è più credibile la difesa di chi sostenga di ignorare la possibilità che un sistema AI inventi casi, massime o citazioni.
Le allucinazioni come problema deontologico non solo tecnico
La decisione segna un punto importante: l’allucinazione non rileva tanto come problema tecnologico, quanto come indice rivelatore di un difetto umano di metodo. Se in un atto compaiono precedenti inesistenti, ciò significa che nessuno ha davvero controllato le fonti invocate. E questa omissione basta, da sola, a integrare una violazione ai doveri di diligenza di un avvocato.
La Corte riconosce espressamente che l’AI può essere uno strumento utile, se usato con prudenza. Non vi è alcuna condanna generale della tecnologia. Ma proprio per questo la sentenza è più interessante: l’errore non è usare l’AI; l’errore è usarla senza controllo professionale.
In questa chiave, l’allucinazione ha un significato quasi probatorio. Non è un semplice refuso, non è un’imprecisione marginale, non è una citazione incompleta. È la manifestazione esterna del fatto che il legale non ha letto e non ha verificato le citazioni e i riferimenti inseriti nell’atto. Il rischio di allucinazione è oggi prevedibile, e proprio per questo la mancata verifica non è più scusabile.
L’invenzione di precedenti comporta anche, sempre secondo la Corte, un danno istituzionale ulteriore: costringe il giudice e la controparte a perdere tempo per “smascherare” le citazioni infondate e inesistenti, compromette l’affidabilità del contraddittorio e incide sulla fiducia che deve sorreggere il processo.
Cosa si intende per allucinazione
Ma cosa si intende per allucinazione?
Le allucinazioni dell’AI, come noto, sono errori in cui un modello genera contenuti plausibili nella forma ma falsi nella sostanza: casi inesistenti, citazioni inventate, fatti non verificati, numeri sbagliati, fonti attribuite male, oppure inferenze presentate come se fossero dati certi.
Il termine “allucinazione” è utile ma un po’ fuorviante, perché fa pensare a qualcosa di misterioso o patologico. In realtà, il fenomeno è molto semplice: un modello linguistico non conosce il mondo come lo conosce una persona e non “controlla” automaticamente se ciò che dice corrisponde a una fonte reale. Funziona producendo la continuazione linguistica più probabile dato il contesto.
Il problema non è solo l’errore, ma il fatto che l’errore possa essere molto convincente.
I principali tipi di allucinazione
Tra i tipi principali di allucinazione, ricordiamo le allucinazioni di fatto nelle quali il modello afferma un fatto falso (ad es. attribuisce ad una legge l’anno sbagliato, indica una data inesatta, assegna a una persona un ruolo che non ricopre, inventa statistiche) e le allucinazioni di fonte. In questo caso il contenuto può sembrare ben documentato, ma la fonte è inesistente o usata male. Ad es. sentenze inesistenti, articoli scientifici mai pubblicati, citazioni testuali che la fonte non contiene, riferimenti bibliografici formalmente perfetti ma inventati.
A ciò si aggiungono le allucinazioni di ragionamento nelle quali i dati di partenza sono parzialmente corretti, ma il modello trae una conclusione sbagliata o eccessiva (confonde una regola con un’eccezione, trasforma una tendenza in una certezza, presenta come universale una soluzione valida solo in alcuni casi) e quelle di completamento, che accadono quando il modello, davanti a un’informazione incompleta, “riempie i buchi” ricostruendo ad esempio clausole mancanti di un contratto, presumendo contenuti non presenti in un file o attribuendo motivazioni non espresse in una sentenza.
La colpa delle parti e dei professionisti: la graduazione delle sanzioni rispecchia la graduazione della colpa
In una situazione come quella che abbiamo descritto, dove entrambe le parti del processo hanno depositato atti con citazioni giurisprudenziali inesistenti o non verificate, la Corte del Mississippi non ha attribuito la colpa ai clienti in senso sostanziale, ma ai loro avvocati. Le sanzioni sono state comminate direttamente ai legali, non alle parti personalmente. Tuttavia, ovviamente, le conseguenze processuali ricadono anche su di queste rimaste senza difensori in un giudizio dove la fiducia e la correttezza sono profondamente minate.
Nel suo ragionamento la Corte, inoltre, valuta diversamente e proporzionalmente le condotte dei singoli legali.
Il primo, quello che ha avuto un comportamento ritenuto più grave, è quello che ha usato un programma AI per redigere l’atto, non ha verificato le autorità e le fonti citate, ha tenuto una condotta non isolata, ma inserita in un pattern più ampio e in altri atti del giudizio e ha offerto al giudice una spiegazione giudicata assolutamente non credibile, cioè di non sapere nemmeno che l’AI potesse “allucinare” casi. Si tratta pertanto di mala fede nel senso di “grave consapevole indifferenza” verso i doveri degli avvocati, tale da giustificare anche l’uso del potere sanzionatorio inerente della Corte.
Il secondo legale sanzionato è quello che ha usato lo strumento di AI senza verifica autonoma, lo ha fatto in due atti distinti, sapeva che il software era pensato per giurisdizioni tipiche del suo studio e non chiaramente per il diritto del Mississippi e ha violato la policy interna del suo studio, che imponeva di verificare l’output AI.
Infine, gli ultimi due, quelli con la posizione meno grave erano gli avvocati che noi definiremmo domiciliatari: hanno firmato e depositato l’atto, non hanno controllato le citazioni, mentre avrebbero dovuto supervisionare l’operato degli avvocati esterni. La loro quindi è stata considerata una colpa da omissione di controllo.
Le sanzioni comminate hanno seguito pertanto, questa mappa della responsabilità: i primi due avvocati sono stati revocati per il processo in questione [istituto non previsto dal nostro ordinamento n.d.r.] e condannati a pagare una multa rispettivamente di 2.500 e 3.500 dollari, è stato comminato loro anche il divieto di comparire nel distretto del Mississippi per 2 anni, gli altri due (i domiciliatari) sono stati esclusi dal caso e multati per 1.000 dollari.
I precedenti italiani sulle citazioni false generate dall’AI
Anche in Italia i giudici hanno cominciato a sanzionare gli avvocati per lo scorretto utilizzo degli strumenti di intelligenza artificiale.
Ricordiamo la sentenza del Tribunale di Siracusa del 20 febbraio 2026 n. 338 in cui il giudice non solo ha condannato la parte che ha citato sentenze non esistenti al pagamento delle spese di lite a favore della controparte e di una somma equitativamente determinata a titolo di risarcimento del danno ex art. 96 comma 3 c.p.c. pari a 14.100,00, ma l’ha altresì condannata al pagamento della somma di euro 2.000 a favore della Cassa delle Ammende.
A marzo del 2025 il Tribunale delle Imprese di Firenze (con ordinanza del 14 marzo 2025) ha censurato la parte convenuta per aver omesso il controllo e la verifica dell’effettiva esistenza delle sentenze risultanti dall’interrogazione dell’intelligenza artificiale e la sentenza n. 3348/2025 del Tar Lombardia che ha riconosciuto in capo all’avvocato l’esistenza di un onere di verifica e controllo dei risultati delle ricerche realizzate con sistemi di intelligenza artificiale e ha ipotizzato che il mancato adempimento di tale onere possa costituire una violazione del dovere del difensore di comportarsi con lealtà e probità in giudizio, inviando copia della decisione all’Ordine degli Avvocati di Milano per lo svolgimento delle relative valutazioni di competenza.
Ulteriori Tribunali hanno statuito che la citazione di sentenze false viola il dovere di lealtà e probità del difensore.
Ma come fare per non incorrere in allucinazioni?
Per comprendere come evitare o ridurre il rischio di allucinazioni bisogna preliminarmente capire perché avvengono.
Le cause principali sono generalmente strutturali. Un modello linguistico è ottimo nel prevedere testo plausibile, non nel garantire la verità materiale di ogni frase, esso predice, ma non verifica i contenuti. Se l’utente chiede una risposta specifica, il modello tende a fornire comunque un output, anche quando avrebbe bisogno di fermarsi, distinguere, o dire “non lo so”.
Domande vaghe o troppo ampie aumentano altresì il rischio. Se si chiede al modello “dammi i precedenti rilevanti”, senza delimitare materia, giurisdizione e periodo, il modello ha più spazio per confondere o inventare. Ugualmente se mancano dati, documenti o accesso a fonti aggiornate, il modello può inferire troppo.
Nel diritto le allucinazioni sono più gravi che in altri ambiti perché il problema non è mai solo tecnico. Diventa subito un problema di metodo, diligenza e responsabilità.
Come ridurre il rischio: suggerimenti, procedure, contromisure
Una delle soluzioni più opportune ed efficaci per uno studio legale è quella di adottare una policy interna molto chiara.
In primo luogo, è necessario stabilire quale sia l’uso consentito dello strumento sotto il controllo umano. Ad esempio, prime bozze di e-mail, memo, riassunti, check-list di temi da approfondire, riformulazione in linguaggio più chiaro di alcuni testi complessi, estrazione di questioni da documenti lunghi, confronto tra versioni di testi. Di contro, ad esempio, non consentire la citazione di sentenze, norme o massime senza controllo alla fonte, la formulazione di conclusioni da depositare, la ricostruzione dei fatti processuali senza confronto con il fascicolo, la produzione di pareri su questioni nuove o ad alto rischio senza doppia revisione, l’inserimento di dati riservati in sistemi non approvati.
In sostanza è opportuno stabilire regole che:
Vietino il “copia e incolla in atto” senza verifica
La revisione dovrebbe riguardare:
• correttezza giuridica;
• correttezza fattuale;
• coerenza con il mandato e con il fascicolo
Impongano la verifica alla fonte di ogni riferimento normativo o giurisprudenziale
La verifica deve riguardare:
• il numero della sentenza,
• l’articolo e la legge,
• la data della sentenza,
• l’autorità giudiziaria,
• la citazione testuale,
• il principio di diritto.
Evitino input eccessivamente aperti su temi legali delicati
Bisogna scomporre il lavoro in passaggi:
• riassunto dei fatti;
• elenco delle questioni giuridiche;
• ipotesi di struttura del ragionamento;
• ricerca e verifica fonti;
• redazione della bozza;
• revisione finale umana.
Introdurre un workflow a due livelli: redazione e validazione
Definire una struttura con operatore/redattore che usa l’AI per produrre bozza o sintesi e revisore che controlla contenuto, fonti e adeguatezza all’uso finale. Questo vale soprattutto in studi dove siano numerosi gli avvocati e i praticanti che lavorano sulle pratiche e sugli atti.
Usare una check-list obbligatoria prima dell’uso esterno
Per ogni atto, parere, memo o e-mail rilevante, inserire una check-list breve ma obbligatoria:
• fatti ricontrollati sul fascicolo;
• nomi e date verificati;
• riferimenti normativi controllati;
• giurisprudenza verificata alla fonte;
• citazioni testuali confrontate con l’originale;
• eventuali limiti o incertezze segnalati;
• revisione finale effettuata da professionista responsabile.
Assegnare ownership chiara
Per ogni elaborato deve risultare espressamente:
• chi ha usato l’AI;
• chi ha controllato i fatti;
• chi ha controllato le fonti;
• chi autorizza la versione finale.
Bloccare l’uso di AI non approvate dallo studio
Bloccare l’uso di AI non approvate dallo studio e stabilire regole chiare per cui si possono utilizzare solo strumenti approvati dallo studio a livello tecnologico e con adeguate garanzie su riservatezza e trattamento dati configurati per limitare retention o training sui dati, se disponibile, con previo esame delle condizioni contrattuali.
Chiedere sempre il supporto documentale della risposta
Quando si usa l’AI per analisi giuridica o sintesi, il prompt dovrebbe richiedere:
• su quali documenti si basa;
• quali passaggi sono dedotti;
• quali punti non risultano supportati;
• quali fonti mancano.
Usare documenti di riferimento chiusi quando possibile e formare il team
Se il compito riguarda un contratto, un fascicolo o una policy, è meglio chiedere all’AI di lavorare solo su quel materiale, con istruzione espressa a non integrare da memoria generale se non richiesto.
Formare avvocati, praticanti e staff sui limiti cognitivi dell’AI.
Creare esempi interni di errori tipici
Molto efficace costruire una piccola raccolta interna di casi come:
• sentenza inventata ma plausibile;
• articolo citato male;
• sintesi incompleta di clausola;
• fatto alterato in una timeline;
• conclusione eccessiva tratta da dati incompleti.
Nominare un referente o piccolo gruppo di governance AI
Anche in studi non grandi conviene che qualcuno segua:
• policy di utilizzo;
• selezione strumenti;
• aggiornamento procedure;
• incidenti o quasi-incidenti;
• formazione;
• controlli a campione.
Fare audit periodici su un campione di elaborati
Una pratica utile è controllare periodicamente alcuni output per verificare:
• tasso di errori;
• tipi di errore ricorrenti;
• reparti o usi più esposti;
• prompt che funzionano meglio;
• punti in cui il workflow si rompe.
Prevedere una procedura di escalation per gli errori
Se emerge un errore generato o amplificato dall’AI, serve una procedura chiara:
• fermare l’uso del testo;
• valutare impatto interno/esterno;
• correggere il documento;
• informare chi di competenza;
• capire se il problema nasce da prompt, strumento, formazione o controllo insufficiente;
• aggiornare la procedura.
Conclusioni
In sintesi, dal momento che le allucinazioni dell’AI sono errori plausibili e persuasivi, non semplici sviste casuali, è necessario da un punto di vista professionale verificare sempre l’output che deriva dall’utilizzo della intelligenza artificiale, predisporre procedure e policy all’interno degli studi legali, oltre all’informativa già obbligatoria per legge, ai sensi dell’art. 13 della Legge n. 132/2025, e tenere sempre in considerazione che l’utilizzo di sistemi di intelligenza artificiale nelle professioni intellettuali è finalizzato al solo esercizio delle attività strumentali e di supporto all’attività professionale e con prevalenza del lavoro intellettuale oggetto della prestazione d’opera.
Partecipa alla community