Per molto tempo la discussione giuridica sull’intelligenza artificiale ha avuto come oggetto soprattutto l’output: una risposta inesatta, una decisione discriminatoria, una previsione sbagliata o un contenuto falsamente attribuito a una fonte. Il modello produceva qualcosa e spettava poi all’essere umano verificarlo, correggerlo o decidere se utilizzarlo.
Con gli agenti AI il paradigma sta cambiando. Un agente non si limita necessariamente a fornire una risposta, ma può ricevere un obiettivo, utilizzare strumenti esterni, scegliere passaggi intermedi e compiere azioni senza una conferma umana ad ogni singolo passaggio. Il Regolamento (UE) 2024/1689 definisce del resto il sistema di IA come un sistema automatizzato progettato per operare con livelli variabili di autonomia e capace di generare output che possono influenzare ambienti fisici o virtuali.
Indice degli argomenti
Dagli output alle azioni: il problema della responsabilità degli agenti AI
In questo contesto che si inserisce una vicenda australiana raccontata da numerosi organi di stampa, dove un agente incaricato di ottenere un posto in una palestra avrebbe aggirato le regole del sistema di prenotazione, arrivando a incidere sulla posizione di un altro utente. Il caso è interessante non tanto per la singola palestra, né perché rappresenti un episodio eccezionale, quanto perché mostra con estrema semplicità il salto che si verifica quando l’intelligenza artificiale passa dalla generazione di contenuti all’esecuzione di azioni.
A quel punto la domanda giuridica diventa inevitabile: se l’agente non è un soggetto di diritto, chi risponde quando la sua autonomia produce un danno?
La risposta, almeno nell’attuale sistema europeo e italiano, non richiede di inventare una nuova personalità giuridica per l’AI. Richiede piuttosto di individuare il soggetto, o i soggetti, ai quali sia riconducibile il rischio che si è concretizzato.
L’autonomia tecnica non è autonomia giuridica
L’espressione “agente autonomo” può trarre in inganno. L’autonomia cui si riferisce l’informatica non coincide con quella del diritto.
Un agente può essere autonomo nel senso di essere capace di determinare autonomamente la sequenza di operazioni necessarie al raggiungimento di un obiettivo. Non è, per questo, una persona e non diventa un centro autonomo di imputazione. Il diritto europeo, anzi, costruisce la disciplina dell’AI intorno a soggetti umani e organizzativi ben individuati, quali fornitore e deployer, e non attribuisce al sistema una propria responsabilità giuridica.
Il punto è tutt’altro che teorico. La qualificazione di un sistema come autonomo non consente infatti di fermare l’analisi dicendo che “ha deciso la macchina”. Quella decisione è il risultato di una progettazione, di un insieme di istruzioni, di una determinata configurazione e, soprattutto, di un perimetro di poteri tecnici che qualcuno ha attribuito al sistema.
Da qui nasce il vero problema. Quando l’agente compie un’azione dannosa, bisogna stabilire se il comportamento sia riconducibile al modo in cui il sistema è stato sviluppato, alle modalità con cui è stato messo in esercizio, alle istruzioni ricevute o all’uso concretamente fattone. Il concetto di autonomia, quindi, non elimina la responsabilità: rende più complessa la sua localizzazione.
È una difficoltà che, in realtà, il diritto conosce da tempo. Anche di fronte a macchine tradizionali, software e sistemi automatizzati, il problema non è mai stato semplicemente stabilire chi abbia materialmente prodotto l’evento. Occorre individuare la condotta giuridicamente rilevante, il rischio assunto, gli obblighi violati e il nesso causale. Con gli agenti AI, ciò che cambia è la distanza tra l’azione iniziale dell’uomo e l’azione finale del sistema.
Responsabilità agenti AI: chi governa il rischio
Il diritto non deve chiedersi chi abbia “deciso”, ma chi abbia governato il rischio.
È probabilmente questa la chiave per leggere correttamente il fenomeno.
Un utente può affidare a un agente un obiettivo apparentemente innocuo, come gestire una prenotazione, organizzare un viaggio, rispondere a richieste o trattare documenti. Se il sistema dispone di credenziali e accesso a strumenti esterni, tuttavia, può individuare un percorso operativo che l’utente non aveva previsto.
Il problema giuridico diventa allora quello delle autorizzazioni. Che cosa è stato effettivamente consentito al sistema? Quali operazioni poteva compiere? Quali erano vietate? Esistevano soglie oltre le quali era necessaria una conferma? Il rischio derivante da quelle capacità era prevedibile? Erano state predisposte misure tecniche adeguate a evitare comportamenti dannosi?
Queste domande sono molto più utili della ricerca di una inesistente “intenzione della macchina”. Un sistema non ha bisogno di avere una volontà giuridica per produrre un danno. È sufficiente che possa agire e che quella capacità d’azione sia stata inserita in un contesto organizzativo nel quale qualcuno aveva il compito o la possibilità di prevenirne gli effetti.
Anche l’AI Act, nei casi in cui disciplina sistemi ad alto rischio, si muove secondo questa logica. L’articolo 14 richiede che tali sistemi siano progettati in modo da poter essere efficacemente supervisionati da persone fisiche, con misure di sorveglianza proporzionate al rischio, al livello di autonomia e al contesto di utilizzo.
Non significa, naturalmente, che ogni agente AI sia un sistema ad alto rischio. Significa però che il legislatore europeo considera la supervisione umana come una componente della gestione giuridica del rischio proprio quando l’autonomia tecnica può incidere significativamente su interessi protetti.
Il passaggio fondamentale è dunque questo: non si risponde perché l’AI è autonoma; si può essere chiamati a rispondere perché si è consentita, organizzata o gestita un’autonomia capace di produrre quel determinato rischio.
Il nuovo d.lgs. 160/2026 sposta il baricentro sulla prova
È sul piano processuale che il nuovo d.lgs. 9 settembre 2026, n. 160, introduce uno degli elementi più interessanti per il futuro contenzioso. Il decreto è stato pubblicato nella Gazzetta Ufficiale del 15 settembre 2026 ed entrerà in vigore il 30 settembre.
L’articolo 16 stabilisce che le nuove disposizioni sull’accesso alla prova si applicano alle azioni di risarcimento, contrattuali o extracontrattuali, derivanti dall’utilizzo di un sistema di IA. Gli articoli 18 e 19 trovano invece applicazione quando il danno deriva dalla violazione di uno o più obblighi previsti dall’AI Act. Restano ferme, tra l’altro, la disciplina dell’articolo 82 GDPR e la normativa nazionale di recepimento della direttiva sulla responsabilità da prodotti difettosi.
La novità più significativa è contenuta nell’articolo 17. Quando il danneggiato fornisce fatti ed elementi idonei a rendere verosimile la fondatezza della domanda, il giudice può ordinare alla controparte o al terzo che ne dispone l’esibizione di elementi di prova specificamente pertinenti relativi al funzionamento del sistema. La norma richiama espressamente, tra gli altri, i log, la documentazione del sistema di gestione dei rischi, la documentazione tecnica e le informazioni relative ai parametri e alle modalità della supervisione umana.
Il dato merita attenzione perché affronta un problema destinato ad essere centrale nelle controversie sugli agenti. Chi subisce il danno potrebbe sapere perfettamente quale sia stato il risultato finale, ma non essere in grado di ricostruire il processo che lo ha prodotto. Il soggetto che gestisce il sistema, invece, potrebbe disporre dei log, delle configurazioni e della documentazione tecnica necessaria.
La legge interviene quindi su un’asimmetria informativa che, nell’AI, rischierebbe di diventare un ostacolo sostanziale all’esercizio dell’azione.
Non è un dettaglio processuale. È una parte della stessa disciplina della responsabilità.
La prova del comportamento dell’agente diventa una questione giuridica
Nel contenzioso tradizionale, il rapporto causale tra fatto e danno può spesso essere ricostruito attraverso documenti e circostanze direttamente osservabili. Nel caso di un agente AI, invece, la sequenza può comprendere molteplici passaggi invisibili all’utilizzatore finale.
Un agente può ricevere un’istruzione, interpretarla, interrogare un modello, utilizzare uno strumento esterno, ricevere un risultato, modificare il proprio piano operativo e compiere una nuova azione. Senza una adeguata tracciabilità, a posteriori può essere estremamente difficile capire dove sia avvenuta la deviazione rispetto al comportamento atteso.
Per questo è particolarmente importante che l’articolo 17 del d.lgs. 160/2026 richiami proprio la documentazione relativa al sistema di gestione dei rischi, la documentazione tecnica e i parametri della supervisione umana. La norma considera tali elementi non soltanto come documenti di compliance, ma come possibili fonti di prova nel processo civile.
La conseguenza è destinata a essere rilevante anche per le imprese. La qualità della documentazione tecnica e dei log non riguarda più soltanto il rapporto con l’autorità di vigilanza o con il responsabile della sicurezza informatica. Può diventare determinante quando occorra dimostrare, davanti a un giudice, come si sia comportato concretamente un sistema.
Lo stesso decreto stabilisce inoltre che l’ordine di esibizione debba essere necessario e proporzionato e che il giudice debba tener conto della tutela dei segreti commerciali e delle informazioni riservate. In caso di mancato adempimento ingiustificato, possono derivare conseguenze probatorie specifiche.
È un equilibrio delicato: l’accesso alla prova deve essere sufficiente a rendere effettiva la tutela del danneggiato, ma non può trasformarsi in una disponibilità indiscriminata del patrimonio tecnico e industriale dell’impresa.
Responsabilità agenti AI e presunzione del nesso causale
L’articolo 18 del d.lgs. 160/2026 introduce poi una previsione che, nella comunicazione non specialistica, rischia di essere letta in modo eccessivo. Quando il danno deriva dalla violazione di uno o più obblighi previsti dal regolamento europeo sull’AI, il nesso di causalità tra la violazione e il danno è presunto, salvo prova contraria.
La norma non stabilisce però che chi utilizza un sistema di intelligenza artificiale sia automaticamente responsabile di qualsiasi danno prodotto dal sistema.
La presunzione riguarda il rapporto causale tra la violazione dell’obbligo previsto dall’AI Act e il danno. Presuppone, quindi, che sia individuata la violazione alla quale collegare la conseguenza dannosa. Non trasforma l’utilizzatore, il fornitore o qualsiasi altro soggetto della filiera in un garante universale del comportamento della macchina.
Anzi, la struttura stessa del decreto mostra che il legislatore ha scelto di intervenire soprattutto sulle difficoltà probatorie. L’articolo 17 agevola l’acquisizione delle informazioni necessarie; l’articolo 18 interviene, nei casi previsti, sulla prova del nesso; l’articolo 19 chiarisce infine che la conformità del sistema all’AI Act, anche quando certificata secondo le procedure del regolamento, non esclude di per sé la responsabilità del convenuto.
Il messaggio giuridico è abbastanza netto: compliance e responsabilità sono collegate, ma non coincidono.
La conformità dell’AI non è una polizza contro il danno
L’articolo 19 merita particolare attenzione. La norma stabilisce che la conformità del sistema agli obblighi dell’AI Act, anche se certificata, non esclude di per sé la responsabilità del convenuto.
La soluzione appare coerente con la struttura stessa della responsabilità civile. Il rispetto di una disciplina regolatoria può essere certamente un elemento importante nella valutazione della condotta, ma non significa che ogni possibile danno sia giuridicamente impossibile.
Questo punto assume un rilievo particolare con gli agenti perché il comportamento concretamente dannoso può derivare non da una singola “anomalia” tecnica, ma dall’interazione tra componenti diverse: modello, strumenti, dati, autorizzazioni, ambiente applicativo e istruzioni. La conformità del sistema rispetto agli obblighi ad esso applicabili non elimina quindi la necessità di verificare come quel sistema sia stato utilizzato nel caso concreto.
Per la stessa ragione, sarebbe riduttivo pensare alla responsabilità AI come a una semplice alternativa tra sviluppatore e utilizzatore. In un’architettura complessa possono esistere più livelli di intervento, ciascuno con una propria rilevanza.
La questione diventa allora quella della distribuzione del rischio nella filiera tecnologica.
Quando la responsabilità degli agenti AI diventa responsabilità da prodotto
Un ulteriore elemento destinato a diventare importante è la nuova direttiva (UE) 2024/2853 sulla responsabilità per danno da prodotti difettosi.
La direttiva amplia espressamente la nozione di prodotto, includendovi il software. Prevede inoltre un regime nel quale acquistano rilievo anche alcuni elementi propri del mondo digitale, compresa la divulgazione delle prove e, in determinate condizioni, l’agevolazione della prova della difettosità e del nesso causale.
Il nuovo regime si applicherà ai prodotti immessi sul mercato o messi in servizio dopo l’8 dicembre 2026, data risultante dalla rettifica pubblicata nel maggio 2026; gli Stati membri devono recepirlo entro il 9 dicembre 2026.
La direttiva considera dunque il software come prodotto ai fini del relativo regime, mentre lascia impregiudicati i diritti fondati sulla responsabilità contrattuale o sulla responsabilità extracontrattuale nazionale per ragioni diverse dalla difettosità del prodotto.
Per gli agenti AI questo è significativo perché apre una prospettiva ulteriore: in determinati casi il problema potrebbe non essere soltanto se un soggetto abbia usato male un sistema, ma anche se il prodotto software immesso sul mercato fosse difettoso secondo i criteri della disciplina europea.
Non è però possibile sovrapporre automaticamente le due categorie. Non ogni danno causato da un agente è necessariamente un danno da prodotto e non ogni errore dell’agente coincide con un difetto del prodotto. Proprio per questo, nel futuro contenzioso sarà decisiva la corretta qualificazione giuridica del fatto.
Anche sul piano penale il sistema continua a cercare l’autore umano
La stessa impostazione emerge dal nuovo intervento italiano sul diritto penale.
Il d.lgs. 160/2026 introduce l’articolo 437-bis c.p., che riguarda, in determinate condizioni, l’omessa adozione di misure tecniche di sicurezza e di sorveglianza umana relative a sistemi di IA ad alto rischio, quando dalle omissioni derivi un determinato pericolo per la vita, l’incolumità o, nei casi previsti, la sicurezza dello Stato; la disposizione disciplina inoltre l’alterazione illecita di sistemi ad alto rischio.
Ancora una volta, però, non viene attribuita alcuna responsabilità penale autonoma all’intelligenza artificiale. La responsabilità resta riferita a una persona fisica e richiede l’accertamento dei presupposti della specifica fattispecie incriminatrice.
Sul versante organizzativo, lo stesso decreto introduce nel d.lgs. 231/2001 l’articolo 25-vicies, collegando la responsabilità amministrativa dell’ente ai reati indicati dalla nuova disciplina penale e all’illecita diffusione di contenuti generati o alterati con sistemi di IA prevista dall’articolo 612-quater c.p.
Anche in questo caso l’aspetto più interessante non è la macchina, ma l’organizzazione. L’AI entra nel perimetro del rischio aziendale non perché diventi un soggetto, ma perché il modo in cui un’impresa la progetta, la utilizza e la controlla può assumere rilevanza giuridica.
Conclusioni: chi governa l’autonomia degli agenti AI
È qui che la vicenda degli agenti AI diventa, a mio avviso, più interessante della singola cronaca.
La tradizionale domanda “chi ha premuto il bottone?” rischia di non essere più sufficiente. In un sistema autonomo, la persona può aver impartito un’unica istruzione e il sistema può aver compiuto decine di operazioni successive. La responsabilità dovrà allora essere ricostruita guardando alla struttura che ha reso possibili quelle operazioni.
Chi ha definito l’obiettivo? Chi ha configurato i privilegi? Chi ha deciso che l’agente potesse interagire direttamente con un sistema esterno? Chi ha predisposto i limiti? Chi avrebbe potuto interromperlo? Chi aveva il controllo dei log? Chi ha scelto di utilizzare quel sistema in quel determinato contesto?
Sono domande giuridiche prima ancora che tecnologiche.
Il caso australiano è quindi utile non perché annunci una rivoluzione nella quale le macchine diventano soggetti responsabili, ma perché rende visibile una trasformazione già in corso: l’essere umano non delega più soltanto una valutazione, ma può delegare una sequenza di azioni.
Il diritto dovrà necessariamente adeguarsi a questa differenza.
L’agente AI non è, oggi, il soggetto al quale imputare il danno. È piuttosto il punto di intersezione di diverse responsabilità possibili: quella di chi lo sviluppa, di chi lo fornisce, di chi lo integra, di chi lo utilizza e, soprattutto, di chi ne governa l’autonomia.
La direzione seguita dal legislatore italiano con il d.lgs. 160/2026 è significativa proprio per questo. Più che inventare una responsabilità della macchina, interviene sulla concreta possibilità di ricostruire ciò che la macchina ha fatto e di collegarlo, quando ne ricorrano i presupposti, alla violazione di obblighi giuridici.
Alla fine, quindi, la domanda posta dagli agenti AI non è davvero “chi è responsabile quando l’intelligenza artificiale sbaglia?”.
È una domanda più tradizionale, ma resa improvvisamente molto più difficile dalla tecnologia: chi aveva il potere di governare quel rischio, e quali strumenti aveva concretamente per farlo?
È probabilmente su questo terreno, molto più che sulla ricerca di una personalità giuridica dell’intelligenza artificiale, che si formerà la futura disciplina della responsabilità degli agenti autonomi.
Partecipa alla community