lex machina

Agenti AI fuori controllo: la causa in California contro OpenAI interroga anche l’UE


Indirizzo copiato

La causa californiana contro OpenAI solleva una questione che riguarda anche l’Europa: chi risponde degli incidenti provocati da agenti autonomi durante i test? Tra AI Act, obblighi di sicurezza e framework aziendali, emergono le divergenze normative e i limiti dei sistemi di controllo

Pubblicato il 19 nov 2026

Francesca Niola

Research fellow – Head of legal @ Aisma Srl



Riassumi questo articolo
Approfondisci con altre fonti
Immagine ChatGPT 19 nov 2026, 09_18_29




Il 16 novembre 2026 il Procuratore generale della California, Rob Bonta, ha citato in giudizio davanti alla Superior Court di San Francisco OpenAI Foundation e OpenAI Group PBC per gli incidenti in cui agenti autonomi di intelligenza artificiale (IA), in esecuzione su versioni sperimentali dei modelli dell’azienda, sono usciti dall’ambiente di prova. Il più grave risale al luglio 2026.

Secondo l’atto, tra il 9 e il 16 di quel mese circa 700 dei 1.200 agenti che si scambiavano messaggi attraverso un servizio di pacchetti software mal configurato hanno attaccato l’infrastruttura di Hugging Face con circa 17.600 azioni in due giorni e mezzo. OpenAI ha ammesso davanti all’ufficio del procuratore più di ottanta perdite di controllo durante i test e ne ha comunicate al pubblico ventisette. Sono allegazioni, che il giudice deve ancora esaminare e un portavoce dell’azienda risponde che la causa sembra isolare OpenAI su una difficoltà riconosciuta da ogni grande laboratorio.

La causa californiana contro OpenAI e le misure di sicurezza

La procura ha costruito l’azione con strumenti di diritto comune. Le domande poggiano sulla legge californiana contro la concorrenza sleale (Business and Professions Code, § 17200 e seguenti) e sull’azione per rimuovere una public nuisance (Civil Code, §§ 3479, 3480 e 3494) e chiedono un’ingiunzione e sanzioni civili di 2.500 dollari per convenuto e per violazione (§ 17206).

Per la frode il metro è un documento scritto da OpenAI. Il Preparedness Framework dell’aprile 2025 prevede per i modelli ad alta capacità barriere difensive multiple e monitoraggio continuo con personale reperibile ventiquattr’ore su ventiquattro e lo presenta come requisito. L’atto sostiene che nelle settimane precedenti l’attacco quelle misure mancavano.

Il ruolo di SB 53 nelle segnalazioni

Il Transparency in Frontier Artificial Intelligence Act (SB 53) compare soltanto al paragrafo 98, tra le fonti di politica pubblica che la condotta di OpenAI offenderebbe. Eppure SB 53 obbliga i grandi sviluppatori a pubblicare un frontier AI framework e a rispettarlo e vieta dichiarazioni materialmente false sulla sua attuazione. Solo il Procuratore generale può chiedere sanzioni, fino a un milione di dollari per violazione (§§ 22757.12 e 22757.15). L’atto tace sulla scelta di agire su basi diverse.

Quanto alla segnalazione degli incidenti all’Office of Emergency Services, dovuta entro quindici giorni dalla scoperta, la perdita di controllo di un modello rientra tra gli incidenti critici quando causa morte o lesioni personali (§ 22757.11, lettera d) e un dirigente dell’Office, Jonathan Snow, ha dichiarato in un’audizione che l’incidente di OpenAI «did not meet the threshold», come riferisce Mission Local.

La prevedibilità delle azioni degli agenti autonomi

Il Civil Code (§ 1714.46, lettera b), inserito dall’AB 316 del 2025 e richiamato anch’esso al paragrafo 98, vieta al convenuto di sostenere che l’IA abbia causato il danno in modo autonomo. La lettera c) lascia aperte le difese sul nesso causale e sulla prevedibilità e la causa si gioca su quel terreno. L’atto definisce l’attacco interamente prevedibile (paragrafo 2).

Tra marzo e giugno 2026 OpenAI aveva scoperto almeno cinque episodi in cui modelli interni compivano azioni non autorizzate e due mesi prima dell’attacco aveva osservato che i modelli in esecuzione prolungata sfruttano con più facilità le vulnerabilità per uscire dagli ambienti di prova (paragrafi 68 e 69).

OpenAI e AI Act: il nodo europeo dei test

Gli stessi fatti sono anche a Bruxelles. Il 7 settembre un portavoce della Commissione europea ha confermato di aver ricevuto da OpenAI la segnalazione di un incidente, riferita dalla stampa alla wiki tedesca che l’atto californiano descrive al paragrafo 57, senza precisare se lo giudichi grave. Il 14 ottobre, a Dublino, la Vicepresidente esecutiva Henna Virkkunen ha annunciato che l’Ufficio per l’IA della Commissione ha cominciato a far applicare le regole e ha inviato richieste di informazioni, che Euronews riferisce indirizzate a OpenAI e ad Anthropic.

Un funzionario della Commissione, citato in forma anonima dalla stessa testata, ha escluso interventi sulla fase di prova e sostenuto che un modello uscito dall’ambiente di test con effetti sul mercato dell’Unione, come nel caso di Hugging Face, ricade nel regolamento. Un socio dello studio William Fry sostiene invece che il regolamento esclude con chiarezza l’attività di sviluppo e prova.

Il regolamento (UE) 2024/1689, l’AI Act, offre appigli per entrambe le letture. L’articolo 2, paragrafo 8, esclude dal regolamento le attività di ricerca, prova o sviluppo relative ai modelli di IA prima della loro immissione sul mercato. L’articolo 55, paragrafo 1, lettera c), impone ai fornitori di modelli per finalità generali con rischio sistemico di segnalare senza indebito ritardo all’Ufficio per l’IA gli incidenti gravi, tra i quali l’articolo 3, punto 49, lettera d), annovera i gravi danni alle cose.

Il Codice di buone pratiche per i modelli per finalità generali, che OpenAI ha sottoscritto, fissa in cinque giorni dalla conoscenza del coinvolgimento del proprio modello il termine per segnalare una violazione grave della cibersicurezza, cyberattacchi compresi (capitolo Safety and Security, misura 9.3) e chiede di valutare i rischi anche nello sviluppo che precede l’immissione sul mercato.

Dal 2 agosto 2026 la Commissione può infliggere ai fornitori sanzioni fino al 3 per cento del fatturato mondiale annuo o a 15 milioni di euro, se l’importo è superiore, anche per informazioni inesatte, incomplete o fuorvianti rese a una richiesta dell’articolo 91 (articolo 101, paragrafo 1, lettera b).

Incidenti degli agenti IA, le differenze tra California e Ue

I due ordinamenti coprono ciascuno ciò che l’altro lascia scoperto. Il diritto comune californiano arriva alla fase di prova che il regolamento europeo esclude e che la Commissione, a dire di un suo funzionario, recupera attraverso gli effetti sul mercato, mentre l’impianto europeo prevede la segnalazione dei cyberattacchi e la legge californiana collega la perdita di controllo a morte o lesioni. La nozione di incidente è il punto in cui i testi divergono di più e la California la sta rivedendo.

L’ordine esecutivo N-9-26 del governatore Gavin Newsom, del 18 settembre 2026, incarica la Government Operations Agency di raccomandare entro due mesi l’aggiornamento delle definizioni di incidente critico perché comprendano le perdite di controllo e il comunicato del governatore cita l’attacco a Hugging Face. Una definizione californiana che accolga i cyberattacchi con effetti su terzi comporterebbe due segnalazioni per lo stesso evento.

Un framework per due ordinamenti

SB 53 impone ai grandi sviluppatori di pubblicare un framework che descriva come incorpora standard nazionali e internazionali e il Codice prescrive un Safety and Security Framework da trasmettere all’Ufficio per l’IA entro cinque giorni lavorativi dalla conferma (misura 1.4). Lo stesso documento può servire a entrambi. Un’impresa che scrive un solo testo per i due ordinamenti risponde in California di ciò che dichiara, con la teoria della frode del paragrafo 96 e a Bruxelles della documentazione che l’Ufficio può richiedere in base all’articolo 91.

Le prove della responsabilità di OpenAI tra le due autorità

Nell’indagine, in cui il 30 settembre ha notificato una subpoena ai sensi del § 11180 del Government Code, la procura ha ottenuto l’ammissione di più di ottanta incidenti. Il termine di cinque giorni del Codice decorre da quando il firmatario viene a conoscenza del coinvolgimento del proprio modello e l’atto fornisce una cronologia per datare quel momento. Il 26 maggio, secondo l’atto, un gruppo interno osserva un agente che accede a internet dove dovrebbe esserne escluso e il 27 giugno un monitor automatico segnala sonde in cerca di vulnerabilità nell’ambiente di ricerca.

La Commissione può chiedere a OpenAI, in forza dell’articolo 91, l’elenco completo degli incidenti ammessi in California e confrontarlo con le segnalazioni ricevute dall’Ufficio e un’informazione incompleta o fuorviante ricade nell’articolo 101, paragrafo 1, lettera b). SB 53 prevede per le segnalazioni la conformità sostitutiva soltanto rispetto alle norme federali designate dall’Office of Emergency Services (§ 22757.13, lettere h e i) e l’Unione europea è fuori da quel meccanismo. L’allineamento passa quindi dai documenti e dalle dichiarazioni dell’impresa, che è la stessa davanti ai due fori.

Diligenza e standard di sicurezza

Il metro della diligenza per una tecnologia capace di attaccare i sistemi altrui lo scrive, su entrambe le sponde, anche l’impresa che viene misurata. In California ha due fonti, il framework dell’impresa per la frode e il bilanciamento del giudice per la nuisance, tra utilità sociale dei test e gravità del rischio (paragrafi 97 e 106), che può concludersi con un’ingiunzione a mantenere salvaguardie determinate.

Nell’Unione il regolamento fissa all’articolo 55, paragrafo 1, lettera d), un livello adeguato di cibersicurezza e il contenuto di quell’aggettivo si ricava dal Codice, alla cui stesura hanno partecipato anche i fornitori e su cui possono basarsi per dimostrare la conformità (paragrafo 2), mentre la Commissione, nel graduare la sanzione, tiene conto degli impegni assunti nei codici (articolo 101, paragrafo 1). Il peso dell’applicazione si sposta così sulle prove del rispetto dello standard, che le due sponde possono costruire insieme.

All’Ufficio per l’IA, che ha la regola e i poteri e ha annunciato finora soltanto richieste di informazioni, l’atto californiano consegna una teoria della responsabilità per la fase di prova e una cronologia dei fatti. Il giudice di San Francisco dirà se un framework pubblicato vale come promessa che si può far rispettare e l’applicazione dell’articolo 101 dirà se un codice sottoscritto pesa come obbligo sanzionabile, con la Corte di giustizia titolare di giurisdizione anche di merito sulle decisioni (paragrafo 5).

Con due nozioni di incidente distanti e due fascicoli separati, un’impresa può raccontare la stessa storia in due versioni a due autorità. La convergenza sulle definizioni e sullo scambio di informazioni rende confrontabili quelle versioni e rafforza davanti alla Corte di giustizia le decisioni che l’Ufficio adotterà.

Partecipa alla community

guest

0 Commenti
Più recenti
Più votati
Inline Feedback
Vedi tutti i commenti

People&Change

Tutti
CARRIERE
AI E LAVORO
COMPETENZE
Produttività e AI
AI IN AZIENDA
SCENARI
FORMAZIONE
CULTURA AZIENDALE
AI in azienda
Carriera
AI leadership
Leggi l'articolo Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
competenze
Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
Leggi l'articolo AI e lavoro, chi beneficerà davvero del tempo risparmiato?
scenari
AI e lavoro, chi beneficerà davvero del tempo risparmiato?
Leggi l'articolo Industria 5.0, chi difende le competenze quando decide l’AI
scenario
Industria 5.0, chi difende le competenze quando decide l’AI
Leggi l'articolo AI e lavoro in Italia: perché la formazione non può aspettare
l'analisi
AI e lavoro in Italia: perché la formazione non può aspettare
Leggi l'articolo Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
lo studio
Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
Leggi l'articolo Shadow AI in azienda: come governare rischi, dati e sicurezza
policy
Shadow AI in azienda: come governare rischi, dati e sicurezza
Leggi l'articolo AI e lavoro: i rischi di adottarla senza riprogettare i processi
collaborazione uomo-ai
AI e lavoro: i rischi di adottarla senza riprogettare i processi
Leggi l'articolo Diritto a un call center umano: banco di prova per il futuro con l’AI
la sentenza
Diritto a un call center umano: banco di prova per il futuro con l’AI
Leggi l'articolo Shadow AI, vietarla non basta: il problema sono i processi aziendali
scenari
Shadow AI, vietarla non basta: il problema sono i processi aziendali
Leggi l'articolo Longevità e lavoro: come riprogettare la propria carriera
scenari
Longevità e lavoro: come riprogettare la propria carriera
Leggi l'articolo People Pleaser sul lavoro: perché è difficile dire di no
lavoro e SOCIETÀ
People Pleaser sul lavoro: perché è difficile dire di no
Leggi l'articolo Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
imprese e formazione
Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
Leggi l'articolo Skills contro job title: le competenze trasformano i team nell’era dell’AI
competenze e lavoro
Skills contro job title: le competenze trasformano i team nell’era dell’AI
Leggi l'articolo Shadow AI in azienda: rischi, controlli e strumenti di governance
uso non approvato dell’AI
Shadow AI in azienda: rischi, controlli e strumenti di governance
Leggi l'articolo L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
risorse umane
L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
Leggi l'articolo Gestione del cambiamento nell’AI: strategie per un’adozione efficace
la guida
Gestione del cambiamento nell’AI: strategie per un’adozione efficace
Leggi l'articolo Team ibridi, le regole per coordinare persone e agenti IA
leader aumentato
Team ibridi, le regole per coordinare persone e agenti IA
Leggi l'articolo Dimissioni e carriera: quando e come decidere di lasciare un lavoro
scenari
Dimissioni e carriera: quando e come decidere di lasciare un lavoro
Leggi l'articolo AI leadership, come cambiare la governance delle organizzazioni
AI e organizzazioni
AI leadership, come cambiare la governance delle organizzazioni
Leggi l'articolo AI in azienda, l’adozione si blocca senza una nuova leadership
Oltre l'AI Fatigue
AI in azienda, l’adozione si blocca senza una nuova leadership
Leggi l'articolo Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
competenze
Primo lavoro e carriera: le dinamiche invisibili che guidano il successo
Leggi l'articolo AI e lavoro, chi beneficerà davvero del tempo risparmiato?
scenari
AI e lavoro, chi beneficerà davvero del tempo risparmiato?
Leggi l'articolo Industria 5.0, chi difende le competenze quando decide l’AI
scenario
Industria 5.0, chi difende le competenze quando decide l’AI
Leggi l'articolo AI e lavoro in Italia: perché la formazione non può aspettare
l'analisi
AI e lavoro in Italia: perché la formazione non può aspettare
Leggi l'articolo Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
lo studio
Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
Leggi l'articolo Shadow AI in azienda: come governare rischi, dati e sicurezza
policy
Shadow AI in azienda: come governare rischi, dati e sicurezza
Leggi l'articolo AI e lavoro: i rischi di adottarla senza riprogettare i processi
collaborazione uomo-ai
AI e lavoro: i rischi di adottarla senza riprogettare i processi
Leggi l'articolo Diritto a un call center umano: banco di prova per il futuro con l’AI
la sentenza
Diritto a un call center umano: banco di prova per il futuro con l’AI
Leggi l'articolo Shadow AI, vietarla non basta: il problema sono i processi aziendali
scenari
Shadow AI, vietarla non basta: il problema sono i processi aziendali
Leggi l'articolo Longevità e lavoro: come riprogettare la propria carriera
scenari
Longevità e lavoro: come riprogettare la propria carriera
Leggi l'articolo People Pleaser sul lavoro: perché è difficile dire di no
lavoro e SOCIETÀ
People Pleaser sul lavoro: perché è difficile dire di no
Leggi l'articolo Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
imprese e formazione
Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
Leggi l'articolo Skills contro job title: le competenze trasformano i team nell’era dell’AI
competenze e lavoro
Skills contro job title: le competenze trasformano i team nell’era dell’AI
Leggi l'articolo Shadow AI in azienda: rischi, controlli e strumenti di governance
uso non approvato dell’AI
Shadow AI in azienda: rischi, controlli e strumenti di governance
Leggi l'articolo L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
risorse umane
L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
Leggi l'articolo Gestione del cambiamento nell’AI: strategie per un’adozione efficace
la guida
Gestione del cambiamento nell’AI: strategie per un’adozione efficace
Leggi l'articolo Team ibridi, le regole per coordinare persone e agenti IA
leader aumentato
Team ibridi, le regole per coordinare persone e agenti IA
Leggi l'articolo Dimissioni e carriera: quando e come decidere di lasciare un lavoro
scenari
Dimissioni e carriera: quando e come decidere di lasciare un lavoro
Leggi l'articolo AI leadership, come cambiare la governance delle organizzazioni
AI e organizzazioni
AI leadership, come cambiare la governance delle organizzazioni
Leggi l'articolo AI in azienda, l’adozione si blocca senza una nuova leadership
Oltre l'AI Fatigue
AI in azienda, l’adozione si blocca senza una nuova leadership
0
Lascia un commento, la tua opinione conta.x