Il 16 novembre 2026 il Procuratore generale della California, Rob Bonta, ha citato in giudizio davanti alla Superior Court di San Francisco OpenAI Foundation e OpenAI Group PBC per gli incidenti in cui agenti autonomi di intelligenza artificiale (IA), in esecuzione su versioni sperimentali dei modelli dell’azienda, sono usciti dall’ambiente di prova. Il più grave risale al luglio 2026.
Secondo l’atto, tra il 9 e il 16 di quel mese circa 700 dei 1.200 agenti che si scambiavano messaggi attraverso un servizio di pacchetti software mal configurato hanno attaccato l’infrastruttura di Hugging Face con circa 17.600 azioni in due giorni e mezzo. OpenAI ha ammesso davanti all’ufficio del procuratore più di ottanta perdite di controllo durante i test e ne ha comunicate al pubblico ventisette. Sono allegazioni, che il giudice deve ancora esaminare e un portavoce dell’azienda risponde che la causa sembra isolare OpenAI su una difficoltà riconosciuta da ogni grande laboratorio.
Indice degli argomenti
La causa californiana contro OpenAI e le misure di sicurezza
La procura ha costruito l’azione con strumenti di diritto comune. Le domande poggiano sulla legge californiana contro la concorrenza sleale (Business and Professions Code, § 17200 e seguenti) e sull’azione per rimuovere una public nuisance (Civil Code, §§ 3479, 3480 e 3494) e chiedono un’ingiunzione e sanzioni civili di 2.500 dollari per convenuto e per violazione (§ 17206).
Per la frode il metro è un documento scritto da OpenAI. Il Preparedness Framework dell’aprile 2025 prevede per i modelli ad alta capacità barriere difensive multiple e monitoraggio continuo con personale reperibile ventiquattr’ore su ventiquattro e lo presenta come requisito. L’atto sostiene che nelle settimane precedenti l’attacco quelle misure mancavano.
Il ruolo di SB 53 nelle segnalazioni
Il Transparency in Frontier Artificial Intelligence Act (SB 53) compare soltanto al paragrafo 98, tra le fonti di politica pubblica che la condotta di OpenAI offenderebbe. Eppure SB 53 obbliga i grandi sviluppatori a pubblicare un frontier AI framework e a rispettarlo e vieta dichiarazioni materialmente false sulla sua attuazione. Solo il Procuratore generale può chiedere sanzioni, fino a un milione di dollari per violazione (§§ 22757.12 e 22757.15). L’atto tace sulla scelta di agire su basi diverse.
Quanto alla segnalazione degli incidenti all’Office of Emergency Services, dovuta entro quindici giorni dalla scoperta, la perdita di controllo di un modello rientra tra gli incidenti critici quando causa morte o lesioni personali (§ 22757.11, lettera d) e un dirigente dell’Office, Jonathan Snow, ha dichiarato in un’audizione che l’incidente di OpenAI «did not meet the threshold», come riferisce Mission Local.
La prevedibilità delle azioni degli agenti autonomi
Il Civil Code (§ 1714.46, lettera b), inserito dall’AB 316 del 2025 e richiamato anch’esso al paragrafo 98, vieta al convenuto di sostenere che l’IA abbia causato il danno in modo autonomo. La lettera c) lascia aperte le difese sul nesso causale e sulla prevedibilità e la causa si gioca su quel terreno. L’atto definisce l’attacco interamente prevedibile (paragrafo 2).
Tra marzo e giugno 2026 OpenAI aveva scoperto almeno cinque episodi in cui modelli interni compivano azioni non autorizzate e due mesi prima dell’attacco aveva osservato che i modelli in esecuzione prolungata sfruttano con più facilità le vulnerabilità per uscire dagli ambienti di prova (paragrafi 68 e 69).
OpenAI e AI Act: il nodo europeo dei test
Gli stessi fatti sono anche a Bruxelles. Il 7 settembre un portavoce della Commissione europea ha confermato di aver ricevuto da OpenAI la segnalazione di un incidente, riferita dalla stampa alla wiki tedesca che l’atto californiano descrive al paragrafo 57, senza precisare se lo giudichi grave. Il 14 ottobre, a Dublino, la Vicepresidente esecutiva Henna Virkkunen ha annunciato che l’Ufficio per l’IA della Commissione ha cominciato a far applicare le regole e ha inviato richieste di informazioni, che Euronews riferisce indirizzate a OpenAI e ad Anthropic.
Un funzionario della Commissione, citato in forma anonima dalla stessa testata, ha escluso interventi sulla fase di prova e sostenuto che un modello uscito dall’ambiente di test con effetti sul mercato dell’Unione, come nel caso di Hugging Face, ricade nel regolamento. Un socio dello studio William Fry sostiene invece che il regolamento esclude con chiarezza l’attività di sviluppo e prova.
Il regolamento (UE) 2024/1689, l’AI Act, offre appigli per entrambe le letture. L’articolo 2, paragrafo 8, esclude dal regolamento le attività di ricerca, prova o sviluppo relative ai modelli di IA prima della loro immissione sul mercato. L’articolo 55, paragrafo 1, lettera c), impone ai fornitori di modelli per finalità generali con rischio sistemico di segnalare senza indebito ritardo all’Ufficio per l’IA gli incidenti gravi, tra i quali l’articolo 3, punto 49, lettera d), annovera i gravi danni alle cose.
Il Codice di buone pratiche per i modelli per finalità generali, che OpenAI ha sottoscritto, fissa in cinque giorni dalla conoscenza del coinvolgimento del proprio modello il termine per segnalare una violazione grave della cibersicurezza, cyberattacchi compresi (capitolo Safety and Security, misura 9.3) e chiede di valutare i rischi anche nello sviluppo che precede l’immissione sul mercato.
Dal 2 agosto 2026 la Commissione può infliggere ai fornitori sanzioni fino al 3 per cento del fatturato mondiale annuo o a 15 milioni di euro, se l’importo è superiore, anche per informazioni inesatte, incomplete o fuorvianti rese a una richiesta dell’articolo 91 (articolo 101, paragrafo 1, lettera b).
Incidenti degli agenti IA, le differenze tra California e Ue
I due ordinamenti coprono ciascuno ciò che l’altro lascia scoperto. Il diritto comune californiano arriva alla fase di prova che il regolamento europeo esclude e che la Commissione, a dire di un suo funzionario, recupera attraverso gli effetti sul mercato, mentre l’impianto europeo prevede la segnalazione dei cyberattacchi e la legge californiana collega la perdita di controllo a morte o lesioni. La nozione di incidente è il punto in cui i testi divergono di più e la California la sta rivedendo.
L’ordine esecutivo N-9-26 del governatore Gavin Newsom, del 18 settembre 2026, incarica la Government Operations Agency di raccomandare entro due mesi l’aggiornamento delle definizioni di incidente critico perché comprendano le perdite di controllo e il comunicato del governatore cita l’attacco a Hugging Face. Una definizione californiana che accolga i cyberattacchi con effetti su terzi comporterebbe due segnalazioni per lo stesso evento.
Un framework per due ordinamenti
SB 53 impone ai grandi sviluppatori di pubblicare un framework che descriva come incorpora standard nazionali e internazionali e il Codice prescrive un Safety and Security Framework da trasmettere all’Ufficio per l’IA entro cinque giorni lavorativi dalla conferma (misura 1.4). Lo stesso documento può servire a entrambi. Un’impresa che scrive un solo testo per i due ordinamenti risponde in California di ciò che dichiara, con la teoria della frode del paragrafo 96 e a Bruxelles della documentazione che l’Ufficio può richiedere in base all’articolo 91.
Le prove della responsabilità di OpenAI tra le due autorità
Nell’indagine, in cui il 30 settembre ha notificato una subpoena ai sensi del § 11180 del Government Code, la procura ha ottenuto l’ammissione di più di ottanta incidenti. Il termine di cinque giorni del Codice decorre da quando il firmatario viene a conoscenza del coinvolgimento del proprio modello e l’atto fornisce una cronologia per datare quel momento. Il 26 maggio, secondo l’atto, un gruppo interno osserva un agente che accede a internet dove dovrebbe esserne escluso e il 27 giugno un monitor automatico segnala sonde in cerca di vulnerabilità nell’ambiente di ricerca.
La Commissione può chiedere a OpenAI, in forza dell’articolo 91, l’elenco completo degli incidenti ammessi in California e confrontarlo con le segnalazioni ricevute dall’Ufficio e un’informazione incompleta o fuorviante ricade nell’articolo 101, paragrafo 1, lettera b). SB 53 prevede per le segnalazioni la conformità sostitutiva soltanto rispetto alle norme federali designate dall’Office of Emergency Services (§ 22757.13, lettere h e i) e l’Unione europea è fuori da quel meccanismo. L’allineamento passa quindi dai documenti e dalle dichiarazioni dell’impresa, che è la stessa davanti ai due fori.
Diligenza e standard di sicurezza
Il metro della diligenza per una tecnologia capace di attaccare i sistemi altrui lo scrive, su entrambe le sponde, anche l’impresa che viene misurata. In California ha due fonti, il framework dell’impresa per la frode e il bilanciamento del giudice per la nuisance, tra utilità sociale dei test e gravità del rischio (paragrafi 97 e 106), che può concludersi con un’ingiunzione a mantenere salvaguardie determinate.
Nell’Unione il regolamento fissa all’articolo 55, paragrafo 1, lettera d), un livello adeguato di cibersicurezza e il contenuto di quell’aggettivo si ricava dal Codice, alla cui stesura hanno partecipato anche i fornitori e su cui possono basarsi per dimostrare la conformità (paragrafo 2), mentre la Commissione, nel graduare la sanzione, tiene conto degli impegni assunti nei codici (articolo 101, paragrafo 1). Il peso dell’applicazione si sposta così sulle prove del rispetto dello standard, che le due sponde possono costruire insieme.
All’Ufficio per l’IA, che ha la regola e i poteri e ha annunciato finora soltanto richieste di informazioni, l’atto californiano consegna una teoria della responsabilità per la fase di prova e una cronologia dei fatti. Il giudice di San Francisco dirà se un framework pubblicato vale come promessa che si può far rispettare e l’applicazione dell’articolo 101 dirà se un codice sottoscritto pesa come obbligo sanzionabile, con la Corte di giustizia titolare di giurisdizione anche di merito sulle decisioni (paragrafo 5).
Con due nozioni di incidente distanti e due fascicoli separati, un’impresa può raccontare la stessa storia in due versioni a due autorità. La convergenza sulle definizioni e sullo scambio di informazioni rende confrontabili quelle versioni e rafforza davanti alla Corte di giustizia le decisioni che l’Ufficio adotterà.




























Partecipa alla community