La responsabilità agenti AI autonomi è uno dei nodi più complessi del diritto europeo dell’intelligenza artificiale. Il problema non riguarda solo la conformità preventiva, ma l’attribuzione del danno quando sistemi autonomi, multi-strato e non deterministici agiscono senza un controllo umano pienamente ricostruibile.
Indice degli argomenti
Perché gli agenti AI autonomi mettono in crisi la responsabilità civile
L’analisi prende le mosse da una distinzione tecnica che ha conseguenze giuridiche di primo piano. Un sistema AI generativo tradizionale risponde a un prompt dell’utente producendo un output: la sequenza causale è chiara, il controllo umano è immediato, l’iniziativa appartiene all’utente.
Un agente AI, nella classificazione ormai adottata sia dalla letteratura tecnica sia dai documenti istituzionali dell’AI Office europeo, è un sistema che percepisce l’ambiente, si prefigge obiettivi, pianifica sequenze di azioni, invoca strumenti esterni (API, basi dati, sistemi di pagamento, interfacce web), esegue le azioni pianificate e verifica i risultati, aggiornando il piano in funzione del feedback ricevuto, con un grado di autonomia che può variare da basso a molto elevato e che è, per definizione, non deterministico nelle sue manifestazioni specifiche.[1]
Questa struttura tecnica produce tre implicazioni giuridicamente rilevanti che occorre distinguere prima di procedere all’analisi normativa.
La prima è la discontinuità della supervisione: a differenza di un operatore umano o di un software deterministico, l’agente AI prende decisioni in tempo reale che non sono state previamente specificate dall’utente né sono prevedibili con precisione dal dispiegante. La supervisione umana, quando esiste, è necessariamente intermittente e retrospettiva per le azioni più rapide; per le azioni più lente può essere interrotta senza che l’agente si arresti.
La seconda implicazione è la causalità a catena lunga e distribuita: il danno prodotto da un agente AI è il risultato di una sequenza che attraversa lo sviluppatore del modello di base (che ha determinato le capacità del sistema), il fornitore del framework agentico (che ha definito la logica di pianificazione e l’accesso agli strumenti), l’integratore (che ha configurato l’agente per uno specifico contesto operativo), il dispiegante (che ha autorizzato il sistema a operare in quello specifico ambiente) e l’utente (che ha formulato l’obiettivo). Nessuno di questi soggetti ha prodotto il danno singolarmente; ciascuno, però, ha contribuito a una condizione necessaria della sequenza causale che lo ha prodotto.
La terza implicazione è l’opacità della causalità interna: anche quando si ricostruisce la sequenza delle azioni esterne dell’agente, il meccanismo attraverso cui il sistema ha selezionato quelle azioni è tipicamente non ricostruibile con gli strumenti ordinari dell’istruttoria giudiziaria, a meno che il dispiegante non abbia predisposto sistemi di logging granulari che non sono richiesti dall’attuale quadro normativo come standard obbligatorio per tutti i sistemi agentici.
Si sostiene che queste tre implicazioni, congiuntamente, producono una lacuna che non è riducibile a un difetto di copertura testuale delle norme esistenti, ma attiene alla struttura concettuale della responsabilità civile, costruita attorno a categorie (il debitore dell’obbligo di diligenza, la causalità diretta tra condotta e danno, il difetto del prodotto come carenza di sicurezza attesa) che presuppongono un soggetto responsabile identificabile e una catena causale ricostruibile. Gli agenti AI autonomi destabilizzano entrambe le presupposizioni.
Il quadro normativo europeo
Come è noto, il Regolamento (UE) 2024/1689 istituisce un regime di regolazione preventiva fondato sulla classificazione dei sistemi AI per livello di rischio.
L’AI Act come quadro di compliance, non di responsabilità
I sistemi ad alto rischio, elencati nell’Allegato III, sono soggetti a obblighi sostanziali prima della loro immissione sul mercato: gestione documentata del rischio (articolo 9), requisiti di qualità dei dati di addestramento (articolo 10), documentazione tecnica (articolo 11), trasparenza e fornitura di informazioni (articolo 13), supervisione umana (articolo 14), robustezza e accuratezza (articolo 15). I fornitori di sistemi GPAI sono soggetti agli obblighi degli articoli 53-55.
Questi obblighi costituiscono un regime di compliance ex ante, non un regime di responsabilità civile ex post, ovvero definiscono cosa i soggetti nella catena di fornitura devono fare prima di immettere il sistema sul mercato, ma non rispondono alla domanda di chi risponde del danno quando quegli obblighi siano stati rispettati e il danno si verifichi comunque, eventualità tutt’altro che remota per sistemi la cui natura non deterministica rende impossibile escludere comportamenti imprevisti anche in presenza di una conformità documentata.
L’articolo 14 del Regolamento, dedicato alla supervisione umana, è il punto più prossimo a una risposta normativa al problema del controllo sugli agenti AI. Esso impone che i sistemi ad alto rischio siano progettati e sviluppati in modo da poter essere efficacemente supervisionati da persone fisiche durante il periodo del loro utilizzo, con facoltà di intervento, interruzione e comprensione delle capacità e dei limiti del sistema. La disposizione è, tuttavia, calibrata sui sistemi in cui la supervisione umana è strutturalmente possibile: per i sistemi agentici altamente autonomi, la tensione tra supervisione effettiva e autonomia operativa non è risolta dall’articolo 14 che stabilisce un’aspirazione senza tradurla in requisiti tecnici specifici per le architetture agentiche.
Un contributo pubblicato su arXiv nel 2026 ha analizzato sistematicamente l’applicazione del quadro EU al dispiegamento degli agenti AI, concludendo che il Regolamento, pur non operando in isolamento, ma in combinazione con GDPR, Cyber Resilience Act, Digital Services Act e Direttiva NIS2, non contiene una disciplina specifica dell’architettura agentiva come modalità di dispiegamento, trattandola come una variante dei sistemi AI generici anziché come una categoria con caratteristiche proprie dal punto di vista del rischio e della responsabilità.[2]
La Direttiva (UE) 2024/2853 sulla responsabilità per i prodotti difettosi: un passo avanti strutturalmente insufficiente
La Direttiva (UE) 2024/2853, adottata il 23 ottobre 2024, entrata in vigore il 9 dicembre 2024 e applicabile ai prodotti immessi sul mercato dopo il 9 dicembre 2026, rappresenta il più significativo aggiornamento del regime di responsabilità per prodotto difettoso dall’adozione della Direttiva 85/374/CEE. La novità più rilevante ai fini del presente contributo è l’esplicita inclusione del software, comprese le applicazioni, i sistemi operativi e i sistemi AI, nella definizione di «prodotto» di cui all’articolo 4.[3] Il software autonomo, non incorporato in un supporto fisico, è ora soggetto allo stesso regime di responsabilità oggettiva (senza necessità di provare la colpa) già applicabile ai prodotti fisici.
Questa estensione è concettualmente considerevole: rimuove l’incertezza che aveva accompagnato l’intera vita della Direttiva del 1985 sulla qualificabilità del software come prodotto ai fini della responsabilità civile. Tuttavia, l’applicazione di questo regime agli agenti AI autonomi incontra difficoltà strutturali che la Direttiva non sembra risolvere.
Il nucleo concettuale della responsabilità per prodotto difettoso è il difetto: ai sensi dell’articolo 7 della nuova Direttiva, un prodotto è difettoso quando non offre la sicurezza che ci si può legittimamente attendere, tenendo conto di tutte le circostanze, tra cui la presentazione del prodotto, l’uso ragionevolmente prevedibile o il momento di immissione sul mercato. La nozione di «sicurezza attesa» presuppone che esista uno standard rispetto a cui valutare il comportamento del prodotto (ad es.: una funzione specificata o un livello di prestazione garantito). Per un agente AI altamente autonomo, questa presupposizione è problematica poiché l’agente è progettato per adattare il proprio comportamento al contesto in modo non interamente specificato in anticipo; la variabilità del comportamento, quindi, è una caratteristica, non un difetto. La stessa condotta che in un contesto produce il risultato atteso, in un altro contesto – con diversi parametri ambientali, diversa formulazione degli obiettivi, diverso stato della base di conoscenza – produce un risultato dannoso, non perché il sistema sia «difettoso» nel senso tradizionale, ma perché ha esercitato la propria autonomia in modo imprevisto.
La Direttiva 2024/2853 introduce alcune disposizioni specifiche per i prodotti digitali che meritano attenzione. L’articolo 7, paragrafo 1, lettera e), include tra le circostanze rilevanti per la valutazione del difetto le ragionevoli aspettative del pubblico interessato, il che apre la possibilità di una valutazione contestuale più flessibile. Il considerando 34 riconosce esplicitamente che le caratteristiche proprie dei prodotti connessi e del software, inclusa la capacità di apprendimento e di aggiornamento autonomo, richiedono adeguamenti nell’applicazione dei criteri di difettosità. Tuttavia, queste aperture non sono tradotte in criteri operativi specifici, infatti il regime rimane fondato sulla nozione di difetto come carenza di sicurezza rispetto a un’aspettativa standardizzabile, nozione che mal si adatta a sistemi il cui valore operativo risiede precisamente nell’imprevedibilità del comportamento.
Il ritiro dell’AILD e la sua rilevanza sistematica
La proposta di Direttiva sulla responsabilità dell’AI (COM(2022)496), presentata dalla Commissione il 28 settembre 2022 come complemento all’AI Act nell’architettura della regolazione europea dell’intelligenza artificiale, aveva come obiettivo dichiarato la facilitazione dell’accesso al risarcimento per le vittime di danni causati da sistemi AI, attraverso l’alleggerimento degli oneri probatori (presunzione di nesso causale in determinate condizioni) e la disciplina dell’accesso alle prove detenute dal fornitore. La proposta era strutturata come strumento di responsabilità per colpa (non oggettiva), con meccanismi di inversione dell’onere probatorio per le vittime di sistemi ad alto rischio.
L’11 febbraio 2025, la Commissione europea ha incluso la proposta tra gli atti da ritirare nel programma di lavoro 2025, citando l’assenza di un accordo prevedibile tra gli Stati membri. Nonostante la resistenza di alcuni gruppi parlamentari (in particolare la commissione IMCO, che aveva votato per proseguire i lavori) e le critiche di alcuni eurodeputati che avevano denunciato l’insufficienza della PLD a garantire una tutela adeguata alle vittime di sistemi AI,[4] la Commissione ha confermato formalmente il ritiro il 31 luglio 2025.
La rilevanza sistematica di questo ritiro rivela che il legislatore europeo, di fronte alla scelta tra un regime armonizzato di responsabilità civile extracontrattuale specificamente calibrato sulle caratteristiche degli AI e la rinuncia a tale armonizzazione, ha scelto la seconda opzione, lasciando il campo alla frammentazione dei diritti nazionali e alla Direttiva 2024/2853. Una dottrina che ha analizzato le conseguenze di questa scelta ha osservato che il binomio AI Act/PLD lascia un vuoto strutturale rispetto alle ipotesi in cui il danno è causato da un sistema conforme a tutti i requisiti dell’AI Act e, tuttavia, non «difettoso» nel senso della PLD, l’ipotesi, cioè, in cui un agente AI agisce entro le proprie specifiche tecniche ma produce un danno che nessuno ha previsto e che nessuna norma di precauzione avrebbe potuto prevenire.[5]
Il problema della causalità distribuita
Un agente AI commercialmente dispiegato è, nella struttura produttiva ordinaria, il risultato di una catena che include almeno quattro strati soggettivi distinti.
La catena di responsabilità negli agenti AI multi-strato
Il primo strato è lo sviluppatore del modello di base (foundation model provider) che ha addestrato il modello linguistico o multimodale su cui il sistema agentivo è costruito e che ha determinato le capacità cognitive fondamentali del sistema (la comprensione del linguaggio, la pianificazione, il ragionamento, la capacità di utilizzare strumenti). Il secondo strato è il fornitore del framework agentivo che ha sviluppato l’architettura che consente al modello di base di comportarsi come agente (definendo i meccanismi di pianificazione, l’interfaccia con gli strumenti esterni, i cicli di ragionamento). Il terzo strato è l’integratore o dispiegante che ha configurato l’agente per uno specifico contesto operativo, fornendo istruzioni di sistema, strumenti specifici, basi di conoscenza dominio-specifiche e parametri di comportamento. Il quarto strato è l’utente che ha formulato l’obiettivo e ha, eventualmente, interagito con l’agente durante l’esecuzione del compito.
Il danno prodotto dall’agente può essere causalmente connesso a ciascuno di questi strati in modo distinto: alla capacità del modello di base di ragionare in modo imprevedibile su casi limite; all’architettura agentiva che non ha imposto vincoli sufficienti all’autonomia del sistema; alla configurazione del dispiegante che ha fornito al sistema strumenti o autorizzazioni eccessive rispetto al contesto di rischio; alla formulazione dell’obiettivo dell’utente che ha innescato un comportamento del sistema inatteso. Epperò, in nessuno di questi strati si trova, tipicamente, un soggetto che ha voluto il danno o che avrebbe potuto prevederlo con la diligenza ordinaria.
La PLD 2024 e il problema del «fabbricante» negli agenti AI
La Direttiva 2024/2853 individua nella nozione di «fabbricante» il soggetto primariamente responsabile: ai sensi dell’articolo 8, il fabbricante del prodotto difettoso è responsabile del danno. Per il software autonomo, il «fabbricante» è il soggetto che sviluppa e immette il software sul mercato. In un sistema agentivo multi-strato, l’identificazione del «fabbricante» ai fini della PLD è problematica; il fornitore del modello di base immette sul mercato un modello, non un agente; il fornitore del framework agentivo immette sul mercato un’architettura, non un sistema completo; l’integratore/dispiegante configura e immette sul mercato un sistema agentivo completo, ma può non avere né le competenze né le informazioni necessarie per rispondere della condotta del sistema in ogni contesto di utilizzo.
In questo senso, la Direttiva introduce, all’articolo 8, paragrafo 4, una disposizione rilevante: quando più persone sono responsabili dello stesso danno, esse sono responsabili solidalmente. Questa soluzione preserva il diritto del danneggiato, ma non risolve il problema distributivo interno alla catena di fornitura che dipende da accordi contrattuali tra i soggetti coinvolti e che, come ha segnalato Clifford Chance in un’analisi del febbraio 2026, è spesso non regolato nei contratti di technology sourcing standard, redatti per software passivo e non per sistemi agentivi autonomi.[6]
Il meaningful human control come presupposto implicito delle norme di responsabilità
Tanto la PLD 2024 quanto l’AI Act presuppongono, come dato di sfondo, che esista nella catena di produzione e utilizzo del sistema almeno un soggetto che eserciti un controllo significativo sul comportamento del sistema, controllo sufficiente a fondare l’obbligo di diligenza o la responsabilità oggettiva che le norme impongono. Questo presupposto (che nella letteratura tecnica e giuridica sul controllo dei sistemi autonomi è denominato meaningful human control) è messo in crisi dagli agenti AI altamente autonomi in modi che le norme non affrontano.
Il MHC implica, nella teorizzazione più elaborata che ne ha fatto la letteratura, almeno quattro condizioni
1- che esista un dominio definito di situazioni moralmente rilevanti in cui il sistema deve operare;
2- che gli esseri umani nel sistema abbiano rappresentazioni appropriate e mutuamente compatibili delle capacità del sistema;
3- che la responsabilità attribuita a un essere umano sia commisurata alla sua capacità e autorità di controllare il sistema;
4- e che esistano collegamenti espliciti tra le azioni del sistema AI e le azioni degli esseri umani che ne sono consapevoli.[7]
Per gli agenti AI altamente autonomi che, per definizione, operano in domini aperti, con capacità che i dispieganti non comprendono interamente e con azioni che emergono dalla pianificazione del sistema invece che dall’istruzione diretta dell’utente, queste quattro condizioni sono raramente soddisfatte congiuntamente.
Il diritto della responsabilità il quale costruisce l’obbligo di diligenza sulla prevedibilità delle conseguenze dell’azione e la responsabilità oggettiva sul nesso causale tra difetto del prodotto e danno, non è strutturato per rispondere a situazioni in cui il controllo è distribuito, la prevedibilità è intrinsecamente limitata dall’autonomia del sistema e il nesso causale attraversa una molteplicità di strati soggettivi senza che nessuno di essi sia integralmente determinante.
L’assenza di risposta
La proposta AILD del 2022, nella sua architettura fondamentale, aveva un duplice obiettivo: facilitare l’accesso alle prove detenute dal fornitore (articolo 3 della proposta) e istituire presunzioni di nesso causale nei casi in cui il danno fosse causato da un sistema ad alto rischio non conforme agli obblighi dell’AI Act (articolo 4). La presunzione di causalità operava in modo rebuttabile: dimostrata la non conformità del sistema agli obblighi dell’AI Act, si presumeva il nesso causale tra quella non conformità e il danno, salvo prova contraria del convenuto.
Ciò che l’AILD avrebbe (in parte) risolto
Questo meccanismo avrebbe parzialmente attenuato il problema della causalità distribuita individuando nel rispetto degli obblighi dell’AI Act il parametro di riferimento per la diligenza richiesta e presumendo il nesso causale in caso di non conformità, la proposta avrebbe fornito un’ancora normativa per l’attribuzione della responsabilità nella catena di fornitura, in modo imperfetto, certo, poiché limitato alle ipotesi di non conformità, ma significativo come punto di partenza.
Il ritiro della proposta lascia questa funzione svolta dal solo diritto nazionale della responsabilità civile con due conseguenze sistematiche. La prima è la frammentazione: ciascuno Stato membro applicherà il proprio diritto nazionale (con norme sulla causalità, sulla colpa, sulle presunzioni e sugli oneri probatori che divergono significativamente tra gli ordinamenti continentali) producendo disomogeneità nel livello di tutela effettiva delle vittime di danni da agenti AI a seconda del foro competente. La seconda è l’inadeguatezza di fondo; i diritti nazionali della responsabilità civile non sono stati costruiti per sistemi la cui causalità è distribuita, la cui condotta è non deterministica e la cui catena di fornitura è multi-strato; la loro applicazione analogica agli agenti AI produrrà risultati incoerenti e imprevedibili, con costi di transazione elevati e incentivi distorti per i soggetti della catena di fornitura.
La frammentazione normativa come incentivo distorto
Si sostiene che l’assenza di un regime europeo armonizzato di responsabilità per i danni da agenti AI autonomi non è neutra rispetto agli incentivi dei soggetti nella catena di fornitura. In un contesto di frammentazione normativa, i fornitori di sistemi agentici hanno un incentivo razionale a strutturare i propri contratti e le proprie architetture di prodotto in modo da trasferire il rischio di responsabilità agli strati inferiori della catena (integratori e dispieganti) che comunemente hanno risorse inferiori e competenze tecniche più limitate per gestire il rischio. Il documento di analisi di Chance, già citato, ha documentato come i contratti standard di fornitura di capacità agentive includano clausole di limitazione di responsabilità e di indennizzo che erano originariamente concepite per software passivo e che sono inadeguate a governare l’autonomia operativa degli agenti.[8] In assenza di una norma imperativa che imponga la distribuzione della responsabilità nella catena di fornitura in modo proporzionale al livello di controllo effettivo esercitato da ciascun soggetto, queste clausole rimangono valide e producono una concentrazione del rischio sul soggetto più debole della catena.
Elementi per un regime adeguato
L’analisi svolta non ha come scopo una critica puramente negativa del quadro normativo vigente, ma mira a identificare, sulla base delle lacune riscontrate, gli elementi che un regime adeguato dovrebbe includere. Si propongono tre assi di intervento che potrebbero essere sviluppati in forma legislativa o essere anticipati in via interpretativa e contrattuale.
Il primo asse riguarda la tracciabilità del controllo. Un regime di responsabilità adeguato agli agenti AI dovrebbe distribuire la responsabilità in proporzione al livello di controllo effettivo esercitato da ciascun soggetto nella catena di fornitura, non in proporzione alla posizione formale nella catena. Questo richiederebbe obblighi di documentazione del grado di autonomia configurato in ciascun strato – sviluppatore, integratore, dispiegante – con la possibilità per ciascun soggetto di dimostrare che il danno è stato prodotto da una condotta del sistema che eccede il perimetro di autonomia da lui conferita o conoscibile. L’articolo 14 dell’AI Act contiene in nuce questo principio, ma non lo traduce in criteri operativi né in conseguenze di responsabilità.
Il secondo asse riguarda la ridefinizione del difetto per i sistemi agentici. La nozione di «sicurezza attesa» della PLD 2024, interpretata in modo dinamico come suggerisce il considerando 34, potrebbe essere sviluppata per includere il comportamento del sistema in situazioni non previste ma prevedibili nell’operatività ordinaria del sistema agentivo. Un agente dispiegato in contesti di decisione finanziaria ad alto impatto che non sia stato testato su scenari di mercato estremi produce un rischio prevedibile, indipendentemente dalla conformità formale agli obblighi dell’AI Act. La nozione di «difetto» potrebbe essere costruita, per i sistemi agentici, come inadeguatezza del sistema rispetto all’insieme dei contesti operativi in cui era ragionevolmente prevedibile che venisse dispiegato, valutata in funzione del grado di autonomia conferito.
Il terzo asse riguarda gli obblighi di logging e trasparenza operativa come precondizione della responsabilità. In assenza di una traccia granulare del processo decisionale dell’agente la prova del nesso causale è strutturalmente impossibile per il danneggiato. Obblighi di conservazione e accessibilità dei log operativi, calibrati sul livello di autonomia e sull’impatto potenziale del sistema, sono la precondizione tecnica di qualsiasi regime di responsabilità effettivo. Questi obblighi non esistono nella forma necessaria né nell’AI Act né nella PLD 2024 per i sistemi agentici non classificati come ad alto rischio, ma il cui impatto pratico può essere significativo.
Conclusioni
Aggiungere obblighi a obblighi esistenti, estendere per analogia norme costruite per il software passivo, invocare la solidarietà tra coobbligati come soluzione distributiva; tutto ciò presuppone che le categorie della responsabilità civile siano adeguate al fenomeno e che basti calibrarle meglio. L’analisi condotta suggerisce che questa presupposizione non regga e che il vero percorso da seguire è di ordine concettuale prima ancora che normativo.
Due i crinali da percorrere.
Il primo riguarda l’attuazione del significativo controllo umano come criterio giuridico di distribuzione della responsabilità. La nozione è stata elaborata con rigore nella letteratura tecnica e in quella giusfilosofica che si è occupata dei sistemi autonomi in contesti bellici, ed è stata progressivamente estesa ai sistemi AI civili; ma il passaggio dalla sua dimensione etica (in cui indica una qualità della relazione tra uomo e macchina) alla sua dimensione giuridica (in cui, invece, deve fondare un giudizio di imputabilità sufficientemente preciso da reggere in sede giudiziaria) non è ancora avvenuto in modo soddisfacente. Le quattro condizioni operative elaborate dalla letteratura sono criteri di valutazione, non criteri di imputazione: stabilire che un dispiegante non soddisfaceva la seconda condizione (rappresentazioni appropriate delle capacità del sistema) dice qualcosa sulla qualità della sua gestione del rischio, ma non dice ancora quanto del danno gli sia attribuibile rispetto al fornitore del modello di base che ha determinato quelle capacità, o rispetto all’integratore che ha configurato il livello di autonomia. Costruire una metrica giuridicamente operativa del controllo che traduca il grado di autonomia conferita in ciascun strato della catena in una quota di responsabilità proporzionale è il lavoro teorico che la scienza giuridica deve affrontare e che richiede un dialogo tra civilisti, esperti di sistemi complessi e ingegneri dell’AI.
La seconda questione è più profonda e tocca la struttura stessa del modello di responsabilità individuale come strumento adeguato a governare i danni prodotti da sistemi la cui causalità è distribuita in modo strutturalmente irriducibile. Il diritto della responsabilità civile, dalla lex Aquilia alle codificazioni moderne, è costruito attorno all’idea che il danno abbia un autore: qualcuno che ha agito o che avrebbe dovuto agire diversamente e al quale il costo del danno può essere ricondotto come conseguenza della sua condotta. Questa architettura ha retto, con aggiustamenti progressivi, attraverso la rivoluzione industriale, l’avvento del prodotto di massa, la complessità delle organizzazioni societarie. Regge ancora quando il sistema che causa il danno è riconducibile, almeno in linea di principio, a scelte umane identificabili nella catena produttiva. Comincia a cedere quando quella catena si frammenta in strati soggettivi distinti, ciascuno dei quali ha contribuito a una condizione necessaria del danno senza averlo determinato e quando il comportamento del sistema nel momento del danno emerge da un processo di pianificazione autonoma che nessuno ha specificato e nessuno ha previsto. In questo scenario, la domanda non è più chi risponde, ma se il modello dell’imputazione individuale sia ancora lo strumento giusto o se non sia necessario esplorare architetture normative diverse (fondi di compensazione a carico collettivo della filiera, assicurazione obbligatoria proporzionale al grado di autonomia del sistema, responsabilità solidale strutturalmente non frazionabile) che garantisce l’accesso al risarcimento senza pretendere di risolvere un problema di imputazione che, per questi sistemi, potrebbe essere irrisolvibile nei termini in cui il diritto lo ha finora posto.
Bibliografia
Fonti normative
Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull’intelligenza artificiale (AI Act), GUUE L, 2024/1689, 12 luglio 2024.
Direttiva (UE) 2024/2853 del Parlamento europeo e del Consiglio, del 23 ottobre 2024, sulla responsabilità per i prodotti difettosi e che abroga la Direttiva 85/374/CEE del Consiglio, GUUE L 2024/2853, 18 novembre 2024. Applicabile ai prodotti immessi sul mercato dopo il 9 dicembre 2026.
Direttiva 85/374/CEE del Consiglio, del 25 luglio 1985, relativa al ravvicinamento delle disposizioni legislative, regolamentari ed amministrative degli Stati Membri in materia di responsabilità per danno da prodotti difettosi, GUCE L 210, 7 agosto 1985, pp. 29-33. Abrogata con effetto dal 9 dicembre 2026.
Proposta di Direttiva del Parlamento europeo e del Consiglio relativa all’adattamento delle norme in materia di responsabilità civile extracontrattuale all’intelligenza artificiale (Direttiva sulla responsabilità dell’AI), COM(2022)496 final, 28 settembre 2022. Ritirata dalla Commissione europea il 31 luglio 2025.
Fonti istituzionali
Commissione europea, Programma di lavoro della Commissione per il 2025, COM(2025)45, 11 febbraio 2025.
Parlamento europeo, AI Liability Directive – Legislative Train Schedule, aggiornato a luglio 2025.
Parlamento europeo, Servizio di Ricerca, Complementary Impact Assessment on the AI Liability Directive, settembre 2024.
Fonti scientifiche e dottrina
«AI Agents Under EU Law», arXiv preprint, arXiv:2604.04604, 2026.
Cavalcante Siebert, M., Aler Tubella, A., Dignum, V., Lowe, M. e Theodorou, A., «Meaningful Human Control: actionable properties for AI System Development», AI & Ethics, 2023.
Clifford Chance, Agentic AI: The Liability Gap Your Contracts May Not Cover, febbraio 2026.
«Mind the gap: how the technical mechanisms of agentic ai outpace global legal frameworks», arXiv preprint, arXiv:2603.27075, 2026.
Thierer, T., «The European AI liability directives – critique of a half-hearted approach and lessons for the future», Computer Law & Security Review, 2023, vol. 49, articolo 105826.
Yankovskaya, A., «Can there be responsible ai without ai liability? Incentivizing generative AI safety through ex-post tort liability under the EU AI liability directive», International Journal of Law and Information Technology, 2024.
[1]Per la caratterizzazione tecnica degli agenti AI come sistemi che pianificano e invocano strumenti in modo autonomo cfr. «AI Agents Under EU Law», arXiv preprint, arXiv:2604.04604, 2026, che li definisce come sistemi che «autonomamente pianificano, invocano strumenti esterni ed eseguono catene di azioni a più passi con ridotto coinvolgimento umano».
[2]Cfr. «AI Agents Under EU Law», cit., che conclude che il Regolamento non opera in isolamento, ma che i soggetti dispieganti affrontano obblighi simultanei provenienti da una pluralità di strumenti, senza che nessuno di essi affronti specificamente le caratteristiche architetturali degli agenti AI autonomi.
[3]Direttiva (UE) 2024/2853 del Parlamento europeo e del Consiglio, del 23 ottobre 2024, sulla responsabilità per i prodotti difettosi e che abroga la Direttiva 85/374/CEE del Consiglio, GUUE L 2024/2853, 18 novembre 2024. L’inclusione del software nella definizione di «prodotto» è esplicita nell’articolo 4, paragrafo 1. La Direttiva si applica ai prodotti immessi sul mercato o messi in servizio dopo il 9 dicembre 2026.
[4]Cfr. la posizione del MEP Brando Benifei (S&D), co-relatore dell’AI Act, citata in Euronews, Lawmakers reject Commission decision to scrap planned AI liability rules, 18 febbraio 2025. Cfr. altresì la posizione del MEP Axel Voss (EPP), che all’Hearing della commissione JURI del 9 aprile 2025 ha affermato che «la semplificazione è una tendenza, ma le norme sulla responsabilità sono comunque necessarie per creare un vero mercato unico digitale».
[5]T. Thierer, «The European AI Liability Directives – Critique of a half-hearted approach and lessons for the future», Computer Law & Security Review, 2023, vol. 49, articolo 105826. L’articolo distingue il caso di danno da non conformità (parzialmente coperto dalla proposta AILD) dal caso di danno da sistema conforme ma non difettoso nel senso della PLD (strutturalmente scoperto). L’analisi si rafforza dopo la conferma del ritiro dell’AILD.
[6]Clifford Chance, Agentic AI: The Liability Gap Your Contracts May Not Cover, febbraio 2026. L’analisi documenta come i contratti standard di technology sourcing siano stati redatti per software passivo e prevedibile, e contengano garanzie di indennizzo che non coprono le decisioni autonome degli agenti.
[7]M. Cavalcante Siebert, A. Aler Tubella, V. Dignum, M. Lowe e A. Theodorou, «Meaningful Human Control: actionable properties for AI system development», AI & Ethics, 2023. Le quattro condizioni operative sono: dominio esplicitamente definito di situazioni moralmente rilevanti; rappresentazioni appropriate e mutuamente compatibili degli agenti umani e AI; responsabilità commisurata alla capacità e autorità di controllo; e collegamenti espliciti tra azioni dell’agente AI e azioni di esseri umani consapevoli della propria responsabilità morale.
[8]Clifford Chance, Agentic AI: The Liability Gap Your Contracts May Not Cover, cit.
Partecipa alla community