Una recente sentenza emessa dal Tribunale Regionale di Monaco di Baviera pone una questione destinata a diventare centrale nel diritto dell’intelligenza artificiale: quando un sistema generativo produce una risposta falsa e lesiva della reputazione di una persona o di un’impresa, il soggetto che offre quel sistema può considerarsi un semplice intermediario?
Nella fattispecie, la sentenza del 28 maggio 2026, n. 26 O 869/26, prende le mosse da una vicenda apparentemente circoscritta, ma affronta un problema assai più ampio. Il punto non riguarda soltanto la responsabilità per una singola informazione errata, bensì il modo in cui devono essere giuridicamente qualificati gli output prodotti da sistemi che non si limitano a reperire contenuti esistenti, ma selezionano informazioni, le collegano, le sintetizzano e restituiscono all’utente una risposta autonoma.
È in questo passaggio, dalla ricerca alla costruzione della risposta, che le categorie tradizionali della responsabilità degli intermediari digitali iniziano a mostrare i propri limiti.
Indice degli argomenti
Il caso: quando l’errore nasce nella sintesi
La controversia riguardava alcune AI Overviews visualizzate da Google in relazione a due imprese editoriali tedesche. A seguito di una ricerca che associava il nome di un’impresa al termine “truffa”, peraltro proposto dallo stesso sistema di completamento automatico, il motore di ricerca non si limitava a restituire una serie di link, dal momento che la risposta generata dall’AI appariva immediata e assertiva.
L’impresa veniva descritta come nota per pratiche commerciali sleali e frequentemente percepita come una truffa. Seguivano riferimenti a presunte trappole di abbonamento, fatturazioni inattese, richieste di pagamento reiterate, cambi di denominazione e URL, difficoltà nel servizio clienti.
Il problema era che alcune di queste informazioni derivavano dalla confusione tra le imprese ricorrenti e soggetti terzi distinti. Soprattutto, taluni collegamenti e alcune delle affermazioni più lesive non risultavano dalle fonti richiamate dal sistema.
Questo elemento è decisivo per comprendere la portata della pronuncia, seppur ci troviamo in un procedimento cautelare.
Il contenuto dannoso infatti non era semplicemente ospitato in una pagina web indicizzata; non coincideva neppure con una frase estratta da un sito di terzi, bensì nasceva dalla rielaborazione compiuta dal sistema.
In altri termini, l’errore era nella sintesi ed è precisamente su questo punto che il Tribunale costruisce la propria decisione che sta generando non poche riflessioni.
Dall’intermediazione alla produzione del contenuto
Il diritto tedesco distingue, nell’ambito della cosiddetta Störerhaftung e dei §§ 1004 e 823 BGB, tra perturbatore diretto e perturbatore indiretto. La distinzione non è meramente classificatoria, perché incide sull’intensità degli obblighi di controllo e sulle condizioni necessarie affinché possa sorgere una responsabilità.
La giurisprudenza tedesca aveva progressivamente elaborato, per i motori di ricerca tradizionali, un equilibrio fondato sulla natura intermediaria dell’attività svolta. Il motore indicizza contenuti creati da altri, ne consente il reperimento, ma non diventa per questa ragione autore di tutto ciò che rende accessibile. Pretendere un controllo preventivo sulla liceità e sulla veridicità dell’enorme massa di informazioni presenti online sarebbe tecnicamente irrealistico e rischierebbe di compromettere una funzione essenziale per la stessa fruibilità della rete.
Il Tribunale di Monaco ritiene, però, che questo schema non possa essere trasferito automaticamente alle AI Overviews.
La ragione appare di semplice interpretazione con riguardo al caso di specie, ma profonda nelle conseguenze generali (anche al di là dell’ordinamento tedesco): il sistema generativo non si limita a mostrare infatti contenuti altrui e quindi indicizzare le risposte presenti sulla rete, bensì produce risposte alle ricerche poste in essere da parte degli utenti.
La sentenza attribuisce particolare rilievo alla struttura linguistica dell’output. La risposta guidata panoramica iniziava invero con un “Sì”, proseguiva attraverso una sintesi introduttiva, organizzava le informazioni in categorie autonome e formulava indicazioni operative. Il sistema non si presentava quindi come una mera porta di accesso alle fonti, ma come il soggetto tecnologico che aveva già svolto per l’utente il lavoro di selezione, interpretazione e sintesi.
Il passaggio più rilevante riguarda tuttavia le affermazioni che non comparivano affatto nei risultati di ricerca richiamati. Se nessuna fonte stabilisce un determinato collegamento tra due imprese, ma quel collegamento emerge nella risposta generata, diventa difficile sostenere che il provider abbia semplicemente reso accessibile un contenuto altrui.
In buona sostanza, il contenuto proposto da Overviews è nuovo ed è proprio la capacità di produrre qualcosa di nuovo a mettere in crisi il paradigma della neutralità.
La generatività come nuovo criterio di imputazione
Per anni il diritto avente ad oggetto gli intermediari digitali si è costruito intorno alla distanza tra il prestatore e il contenuto. Tali soggetti trasportano, memorizzano, indicizzano o rendono reperibili informazioni prodotte da altri. I regimi di limitazione della responsabilità trovano la propria giustificazione in questa posizione funzionale e nell’impossibilità di esercitare un controllo generalizzato su tutto ciò che circola attraverso la rete, al di là di macroscopiche fattispecie di reato.
L’intelligenza artificiale generativa modifica questo rapporto: un sistema può combinare informazioni provenienti da fonti diverse, stabilire associazioni, sciogliere ambiguità, gerarchizzare elementi e formulare conclusioni o “suggerimenti”. Il contenuto giuridicamente e potenzialmente lesivo può nascere precisamente durante questa elaborazione.
La sentenza di Monaco coglie con chiarezza il problema. Poiché il provider ha introdotto il sistema di AI, lo mette a disposizione degli utenti e conserva la capacità di incidere sulla sua architettura e sui relativi algoritmi, gli output autonomamente generati possono essergli imputati come contenuti propri.
Il punto richiede, tuttavia, una precisazione. Non si tratta di affermare che ogni errore prodotto da un modello determini automaticamente una responsabilità del provider. Una conclusione del genere sarebbe eccessiva. La questione riguarda piuttosto il criterio di imputazione: quando il danno deriva non dalla mera trasmissione di un’informazione altrui, ma dal processo di elaborazione organizzato dal soggetto che offre il sistema, la posizione di quest’ultimo non può essere assimilata tout court a quella di un intermediario passivo.
Il tema, quindi, non è se l’algoritmo possa essere considerato autore in senso umano. Evidentemente non può esserlo. Il problema è individuare il soggetto giuridico cui imputare un processo automatizzato progettato per produrre contenuti e integrato in un servizio destinato agli utenti.
Perché il modello del motore di ricerca non basta più
La motivazione dedica ampio spazio alla precedente giurisprudenza tedesca sui motori di ricerca e sulla funzione di completamento automatico, spiegando perché quei principi non siano direttamente trasferibili alla ricerca assistita dall’AI.
Il ragionamento parte dalla funzione stessa del motore tradizionale. È ben noto che l’indicizzazione dei contenuti consente all’utente di orientarsi in una massa di dati altrimenti difficilmente gestibile, e questa è una funzione essenziale e, proprio per questo, la giurisprudenza ha escluso obblighi generali di verifica preventiva che ne renderebbero impossibile o eccessivamente oneroso il funzionamento.
Una AI Overview svolge però un’attività diversa. Non rende semplicemente reperibile il contenuto: lo seleziona, lo struttura, lo valuta e lo restituisce secondo una rappresentazione unitaria.
Il Tribunale osserva, inoltre, che i motori di ricerca forniscono attività che non necessitano di ulteriori funzionamenti “intelligenti”. L’AI Overview costituisce invero un servizio aggiuntivo che semplifica la ricerca, ma al tempo stesso canalizza la conoscenza dell’utente attraverso criteri algoritmici non immediatamente percepibili.
La distinzione è tutt’altro che formale. Se una funzionalità ulteriore viene introdotta per offrire una risposta più completa, più immediata e più utile, il soggetto che la offre non può necessariamente invocare le medesime limitazioni di responsabilità elaborate per proteggere la funzione essenziale dell’indicizzazione.
La verificabilità dell’output e il dovere di intervento
Un altro passaggio della decisione appare particolarmente rilevante in prospettiva futura. Il Tribunale osserva che le affermazioni generate dall’AI possono essere verificate, almeno attraverso adeguati meccanismi di controllo, confrontando l’output con le fonti sulle quali esso dichiara di fondarsi.
È una differenza sostanziale rispetto al motore di ricerca tradizionale.
Chi indicizza miliardi di pagine web non può ragionevolmente verificare la veridicità di ciascun contenuto prima di renderlo reperibile. Ma se un sistema afferma l’esistenza di un collegamento tra due soggetti e nessuna delle fonti utilizzate contiene quel collegamento, il rischio nasce nella fase di elaborazione e di output.
La sentenza non introduce un obbligo generale di controllo preventivo su ogni risposta generata, cosa che determinerebbe un onere eccessivo. Il Tribunale afferma però che, una volta segnalata la possibile illiceità, il provider non può limitarsi a invocare il modello tradizionale del notice-and-takedown previsto per i contenuti di terzi, soprattutto quando dispone della possibilità di confrontare la risposta con le fonti che il sistema stesso ha utilizzato.
Questo passaggio introduce un principio destinato a diventare centrale: la capacità tecnica di controllo può incidere sull’estensione del dovere giuridico di controllo.
Quanto più un soggetto dispone degli strumenti per comprendere l’origine dell’errore, verificarne la consistenza e impedirne la reiterazione, tanto più difficile diventa sostenere la propria estraneità rispetto all’output.
Il DSA e i limiti dei safe harbour
La decisione assume particolare rilievo anche nel rapporto con il Digital Services Act. Il punto, tuttavia, richiede cautela.
La sentenza non afferma che il DSA sia estraneo ai servizi che utilizzano sistemi di AI, né che l’impiego di una tecnologia generativa determini automaticamente la perdita di ogni regime di limitazione della responsabilità. L’interpretazione è più sottile e generatrice di riflessioni: i safe harbour previsti per gli intermediari non possono essere estesi indistintamente a qualsiasi contenuto prodotto nell’ambito di un servizio digitale.
L’art. 6 DSA disciplina infatti, a determinate condizioni, la memorizzazione di informazioni fornite da un destinatario del servizio. Ma se l’affermazione lesiva nasce dalla rielaborazione generativa operata dal sistema, occorre prima chiedersi se si sia ancora di fronte alla mera memorizzazione di un contenuto altrui.
Nel caso concreto, il Tribunale risponde negativamente e richiama inoltre l’art. 6, par. 4, DSA, che lascia impregiudicata la possibilità per un’autorità giudiziaria o amministrativa di esigere, secondo il diritto dello Stato membro, la cessazione o la prevenzione di una violazione.
La questione, quindi, non può essere risolta evocando genericamente la qualifica di intermediario. Occorre guardare all’attività effettivamente svolta dal sistema e al punto nel quale il contenuto lesivo viene prodotto.
Il rischio di una zona franca della responsabilità
Uno dei passaggi più lucidi della motivazione riguarda il possibile vuoto di tutela derivante da una diversa soluzione.
Se l’affermazione lesiva non compare nelle fonti originarie, il soggetto danneggiato non può agire contro gli autori di quelle fonti per ottenere la cessazione di un contenuto che essi non hanno mai formulato.
Ma se, nello stesso tempo, il provider del sistema generativo potesse invocare la responsabilità limitata propria del motore di ricerca e fosse tenuto a intervenire soltanto dinanzi a una violazione manifesta e immediatamente riconoscibile, si produrrebbe una zona franca.
L’output esisterebbe, il danno sarebbe concreto, ma il soggetto leso non disporrebbe di una tutela effettiva.
È probabilmente questo il punto che meglio mostra l’inadeguatezza di una lettura dell’AI generativa fondata esclusivamente sulla tradizionale alternativa tra autore e intermediario.
Può esistere infatti un contenuto nuovo che nasce dalla combinazione automatizzata di informazioni altrui ed è proprio questa capacità produttiva che impone di interrogarsi su criteri di imputazione diversi, legati non soltanto alla provenienza originaria del dato, ma anche al controllo sul processo che lo trasforma in una risposta o “suggerimento”.
Le “opinioni algoritmiche” e la libertà di espressione
La sentenza affronta anche un tema ancora poco esplorato: quello delle valutazioni generate dall’AI.
Alcune delle affermazioni contestate vengono ricondotte non a mere asserzioni di fatto, ma a giudizi valutativi. Affermare infatti all’esito di una serie di risposte ad una ricerca che una determinata impresa sia nota per porre in essere pratiche commerciali sleali o viene percepita come una truffa contiene indubbiamente una componente di opinione (potenzialmente lesiva).
Il Tribunale richiama però il ruolo delle Anknüpfungstatsachen, i fatti di collegamento sui quali il giudizio si fonda. Una valutazione può essere protetta dalla libertà di espressione, ma se poggia su presupposti fattuali falsi la sua posizione nel bilanciamento con i diritti della personalità si indebolisce sensibilmente.
Nel caso concreto, il giudizio negativo risultava costruito anche sull’asserito collegamento con soggetti terzi, collegamento che non era stato dimostrato. La veste valutativa dell’output non poteva quindi neutralizzare la falsità della base fattuale.
Ma la motivazione compie un ulteriore passaggio. L’AI, osserva il Tribunale, non esprime una convinzione maturata attraverso un processo umano di elaborazione del pensiero, ma restituisce l’esito di un procedimento algoritmico. L’offerta di una ricerca assistita dall’intelligenza artificiale costituisce principalmente espressione dell’attività commerciale del provider e solo in via subordinata manifestazione di un interesse alla libera espressione.
Si apre qui una questione destinata a crescere nei prossimi anni. Può esistere una vera “opinione algoritmica”? E chi sarebbe il titolare della libertà di espressione destinata a proteggerla?
Il sistema di AI non è un autonomo soggetto di diritto e le posizioni costituzionalmente rilevanti devono, pertanto, essere ricondotte al provider. Ciò non significa, tuttavia, che il bilanciamento debba necessariamente operare secondo i medesimi criteri applicabili quando l’espressione rappresenta il risultato di una convinzione o di una valutazione critica maturata attraverso un processo umano di elaborazione del pensiero.
La presenza delle fonti non garantisce la correttezza della risposta
La decisione affronta infine un argomento spesso utilizzato per ridimensionare il rischio degli output generativi: la possibilità per l’utente di consultare i link e verificare autonomamente le fonti.
Il Tribunale esclude che questa possibilità sia sufficiente a neutralizzare la responsabilità per una risposta autonoma e compiutamente comprensibile.
Il ragionamento è coerente con la funzione stessa delle AI Overviews. L’utente infatti ricorre alla sintesi generativa proprio per non avere la necessità di dover analizzare e confrontare tutte le fonti sottostanti. Pretendere una verifica sistematica significherebbe ridurre drasticamente l’utilità del servizio.
Vi è, tuttavia, un profilo ancora più rilevante. La presenza di fonti autentiche non garantisce, di per sé, la correttezza dell’output. Una risposta può fondarsi su documenti reali e risultare comunque falsa o fuorviante, perché il sistema può associare soggetti differenti, trasformare una possibilità in una certezza, generalizzare un episodio isolato o costruire collegamenti che non trovano riscontro in alcuna delle fonti utilizzate.
È proprio questo uno dei rischi più insidiosi della generatività: l’errore può non risiedere nei singoli dati di partenza, ma emergere nel processo attraverso il quale il sistema li seleziona, li mette in relazione e, infine, costruisce una risposta dotata di un significato nuovo e autonomo.
Dalla compliance alla responsabilità organizzativa
È su questo terreno che la sentenza di Monaco supera la dimensione del caso concreto e finisce per interrogare direttamente i modelli di AI governance. Per lungo tempo, le hallucinations sono state considerate prevalentemente come un problema di affidabilità e performance tecnica dei sistemi. La prospettiva, tuttavia, è destinata a cambiare. Un output falso o fuorviante può produrre conseguenze giuridiche immediate, incidendo sulla reputazione di un’impresa, sulla posizione professionale di una persona o, nei contesti più sensibili, orientando decisioni sanitarie e finanziarie sulla base di informazioni inesatte. L’errore algoritmico cessa così di essere una mera anomalia tecnica e diventa un fattore di rischio giuridico e organizzativo, che deve essere previsto, valutato e governato.
La qualità dell’output assume così una diretta rilevanza anche sul piano della responsabilità. Per le organizzazioni che sviluppano o integrano sistemi generativi, la governance non può quindi esaurirsi nella predisposizione formale di policy, registri e documenti di conformità, ma deve tradursi nella capacità effettiva di conoscere e governare il funzionamento dei sistemi utilizzati, le finalità per le quali sono impiegati e il grado di autonomia con cui possono produrre affermazioni suscettibili di incidere sui diritti e sugli interessi dei soggetti coinvolti.
In questa prospettiva, diventa essenziale predisporre meccanismi concretamente idonei a intercettare e gestire le segnalazioni, ricostruire l’origine dell’errore e intervenire tempestivamente sulle condizioni che lo hanno determinato, riducendo, per quanto tecnicamente possibile, il rischio che il sistema reiteri la medesima associazione errata o continui a produrre output analogamente lesivi. La governance dell’AI cessa, così, di rappresentare un adempimento meramente documentale e diventa parte integrante del sistema di prevenzione e gestione della responsabilità.
È su questo terreno che il ragionamento incrocia anche l’AI Act. La sentenza richiama espressamente la nozione di provider di cui all’art. 3, punto 3, del Regolamento europeo, pur precisando che, nel caso concreto, la disciplina europea sull’intelligenza artificiale non costituisce la base diretta della tutela civilistica azionata. Il richiamo assume, tuttavia, un rilievo significativo, perché conferma come il problema dell’imputazione degli output non possa essere affrontato prescindendo dalla posizione del soggetto che sviluppa il sistema, lo immette sul mercato o lo mette in servizio sotto il proprio nome o marchio e, soprattutto, dispone del potere effettivo di incidere sulla relativa architettura e sulle condizioni del suo funzionamento.
In questa prospettiva, il tema della responsabilità tende inevitabilmente a seguire quello del potere di governo sul sistema: quanto maggiore è la capacità di determinarne le modalità di funzionamento, controllarne l’impiego e intervenire sui rischi generati dagli output, tanto più difficile diventa sostenere una posizione di sostanziale estraneità rispetto alle conseguenze della loro produzione.
Quando l’AI costruisce la risposta
La sentenza del Landgericht München I è una decisione di primo grado, resa in sede cautelare, e non può evidentemente essere assunta come approdo definitivo della responsabilità europea per l’intelligenza artificiale. La sua portata non deve, tuttavia, essere sottovalutata, perché la decisione individua con particolare chiarezza uno dei problemi destinati ad accompagnare la prossima fase dell’AI generativa: il progressivo passaggio dalla ricerca dell’informazione alla produzione della risposta.
Finché il sistema si limita a rendere reperibile un contenuto già esistente, il paradigma dell’intermediazione conserva la propria coerenza e la propria forza sistematica. Quando, invece, il sistema seleziona informazioni provenienti da fonti diverse, le collega, le interpreta e le restituisce all’utente sotto forma di una conclusione autonoma, il quadro cambia. In quel passaggio non vi è più soltanto circolazione dell’informazione, ma può esservi produzione di un contenuto nuovo, dotato di un significato proprio e suscettibile, proprio per questo, di porre un diverso problema di imputazione giuridica.
Può infatti accadere che l’affermazione lesiva non sia rinvenibile in alcuna delle fonti utilizzate dal sistema, ma emerga soltanto nel passaggio attraverso il quale l’AI seleziona, collega e rielabora le informazioni sino a costruire un contenuto nuovo. È allora che la domanda diventa inevitabile: se l’AI risponde, chi ne risponde?
La decisione di Monaco offre una prima risposta. Non l’algoritmo, che non è un soggetto di diritto, né necessariamente gli autori delle fonti originarie, che potrebbero non avere mai formulato l’affermazione contestata. Il problema dell’imputazione si sposta, piuttosto, verso il soggetto che ha organizzato e messo a disposizione il processo generativo e che dispone del potere effettivo di incidere sulle condizioni del suo funzionamento e di intervenire sui rischi prodotti dagli output.
Con l’intelligenza artificiale generativa, la responsabilità non può quindi essere ricostruita guardando soltanto a chi ha creato il dato o l’informazione originaria. Occorre considerare anche il processo che trasforma quelle informazioni in un contenuto nuovo e, soprattutto, la posizione di chi quel processo ha organizzato ed è concretamente in grado di governarlo.
Partecipa alla community