OpenAI ha di nuovo premuto il freno sull’AI e stavolta lo ha fatto in grande.
Dopo una nuova serie di comportamenti inattesi dei propri agenti che persino stavolta hanno minacciato siti governativi, la società ha sospeso training dei modelli più capaci.
OpenAI ha dichiarato in un comunicato che riprenderà l’addestramento “solo quando saremo sicuri di avere ulteriori misure di sicurezza” in atto. Prevede inoltre di dover “mettere di nuovo in pausa” il processo man mano che l’IA si evolve e emergono altre problematiche.
OpenAI aveva rivelato venerdì che i suoi agenti di intelligenza artificiale hanno interagito con diversi siti web del governo statunitense in modi inaspettati, anche se si sono limitati a trattare dati pubblici..
Secondo Transluce, agenti apparentemente riconducibili a OpenAI avrebbero inoltre tentato senza successo un rudimentale attacco a un sito dell’Office for Civil Rights del Department of Education. OpenAI non ha confermato l’attribuzione di quest’ultimo episodio e il dipartimento ha dichiarato di non avere trovato impatti sui propri sistemi o database.
L’escalation di notizie continua – ci sono stati agenti fuori controllo di Google e di Anthropic. E qual è la sola risposta arrivata finora, in concreto? Rallentiamo il training, come aveva già fatto OpenAI per Astra dopo il caso HuggingFace emerso a luglio, anche se quel caso di stop era più delimitato e con una fine prefissata, due settimane.
La pausa è un atto di responsabilità. Rallentare è opportuno quando si teme di non avere controllo. Bisogna chiedersi però se è sufficiente. Rallentare dovrebbe servire soprattutto per guadagnare più tempo utile a preparare una strategia e aumentare di base la sicurezza di questi modelli, quella che in inglese si chiama AI Safety.
Su questa strategia però siamo ancora molto indietro, nonostante i recenti appelli di OpenAI e Anthropic. Non giova l’attuale postura del Governo USA: a questi appelli continua a rispondere che non c’è bisogno di altre regole e sta solo alle singole aziende rallentare se ci sono rischi. La Cina ha una posizione simile, anche se meno chiara. Certo è che dal recente incontro tra i due presidenti Trump e XI non è emersa nessuna strategia o piano globale per l’AI Safety ma solo l’apertura di un canale di comunicazione bilaterale. Meglio di niente, ma anche qui: basterà? Basterà di fronte alla crescita rapida della tecnologia, che non può essere certo controllata da singole scelte di singole aziende?
Indice degli argomenti
Rallentare serve soprattutto a comprare tempo
Il punto: gli strumenti tecnici e politici per uno sviluppo sicuro dell’AI devono andare di pari passo.
Il primo livello riguarda i guardrail tecnici. Gli agenti più potenti devono operare in ambienti nei quali accesso alla rete, credenziali, possibilità di eseguire codice e autorizzazioni siano concessi secondo il principio del minimo privilegio. Alcune azioni possono richiedere un’autorizzazione umana esplicita; altre possono essere bloccate automaticamente quando il monitoraggio individua una traiettoria anomala. Servono inoltre meccanismi affidabili per interrompere rapidamente l’esecuzione quando il comportamento supera determinate soglie.
Il secondo livello riguarda i test. I benchmark tradizionali misurano spesso una singola risposta. Per gli agenti occorrono valutazioni capaci di osservare intere traiettorie, comprese situazioni nelle quali il sistema può aggirare un controllo, sfruttare una vulnerabilità o adattarsi al fatto di essere sorvegliato. Lo stesso OpenAI riconosce che l’assenza di fallimenti nelle valutazioni non dimostra l’affidabilità del sistema in ogni situazione e sta studiando forme di monitoraggio che non dipendano soltanto dalla catena di ragionamento del modello.
Già su questi livelli le aziende AI potrebbero e dovrebbero fare di più, come dice Jensen Huang, fondatore di Nvidia e come dimostrano del resto gli ultimi incidenti. Anche sul fronte tecnico, insomma, rallentare il training non basta se poi non si investe di più in pratiche di safety.
Cosa ha bloccato OpenAI di preciso: non solo il training
OpenAI non ha semplicemente sospeso l’addestramento di un singolo modello. Dopo l’ultimo incidente ha fermato, per i suoi modelli più capaci, il training, i test e le esecuzioni nelle quali i modelli possono utilizzare strumenti, per esempio accedere a servizi esterni o compiere azioni. La sospensione resterà in vigore finché l’azienda non avrà verificato la correzione delle falle emerse e svolto nuovi test di sicurezza.
Il modello coinvolto direttamente nell’ultimo incidente non riprenderà l’addestramento: OpenAI ricomincerà con un nuovo training run e ulteriori misure di allineamento.
Lo stop non significa quindi che ChatGPT o tutti i modelli OpenAI siano stati spenti. Riguarda le attività più sensibili dei modelli più avanzati, soprattutto quando possono agire attraverso strumenti esterni.
Il test decisivo sarà l’indipendenza dei controlli. Il tema politico
Non solo. C’è poi un problema istituzionale. Se è lo stesso produttore a decidere quali rischi misurare, quale accesso concedere ai valutatori e quando rendere pubblici i risultati, anche test tecnicamente eccellenti conservano un limite strutturale.
Per questo negli Stati Uniti sta prendendo forma l’idea degli “embedded evaluators”: soggetti esterni che lavorano all’interno dei laboratori e possono osservare direttamente modelli, procedure e incidenti. OpenAI, Anthropic e altri operatori hanno aperto a questa impostazione. Ma restano da definire elementi essenziali: chi accredita i valutatori, chi li paga, quali informazioni possono vedere, quali risultati possono pubblicare e che cosa succede quando la loro valutazione contrasta con l’interesse dell’azienda.
Il tema sta già passando dalla volontarietà alle regole. OpenAI ha dichiarato a settembre di sostenere negli Stati Uniti requisiti nazionali obbligatori basati sulle capacità dei modelli, comprendenti test comuni, valutazioni indipendenti, cybersecurity e regole per la segnalazione degli incidenti. La posizione è contenuta nel documento “The AI policy window is open”.
La California ha intanto approvato due norme che creano un sistema per qualificare organizzazioni indipendenti di verifica e un registro degli auditor AI con requisiti di indipendenza e trasparenza. Un successivo ordine esecutivo del governatore Gavin Newsom ha chiesto di studiare anche verificatori presenti stabilmente nei laboratori e sistemi di arresto di emergenza per i modelli frontier.
L’Europa ha già alcuni pezzi della risposta
L’Unione europea dispone già di una parte dell’architettura normativa che il dibattito americano sta cercando di costruire. L’articolo 55 dell’AI Act impone ai fornitori dei modelli general purpose con rischio sistemico di effettuare valutazioni secondo protocolli allo stato dell’arte, svolgere adversarial testing, valutare e mitigare i rischi sistemici, documentare e comunicare gli incidenti gravi e mantenere adeguate protezioni di cybersecurity.
Dal 2 agosto 2026 sono inoltre operativi i poteri di enforcement relativi alle disposizioni sui modelli general purpose.
Avere una norma, però, non risolve automaticamente il problema tecnico. Resta da stabilire quali test siano sufficientemente robusti, quali incidenti debbano far scattare uno stop, quali capacità richiedano salvaguardie ulteriori e quanto accesso debba essere concesso a chi verifica. Proprio gli episodi degli ultimi mesi possono diventare materiale empirico per affinare questi criteri.
Trump e Xi hanno aperto un canale: ora conta che cosa ci passerà dentro
Oltre e insieme alla questione tecnica e a quella normativa c’è la dimensione politica, infatti, che deve tenere insieme tutto. Soprattutto alla luce del carattere transnazionale di questa tecnologia e dei suoi effetti.
Qui c’è il problema più grave. Stati Uniti e Cina hanno il dominio sulle capacità AI frontier e competono direttamente sullo sviluppo dell’AI.
Nel vertice di Washington del 24 settembre Donald Trump e Xi Jinping hanno concordato di istituire un dialogo sino-americano sull’intelligenza artificiale per discutere rischi e benefici. Il prossimo incontro è previsto a novembre. È stato inoltre concordato un canale bilaterale di comunicazione specificamente dedicato agli incidenti AI.
È un risultato circoscritto. Non risultano per ora benchmark comuni, procedure condivise di verifica, soglie concordate per i sistemi più potenti o obblighi reciproci di comunicazione degli incidenti. Trump ha contemporaneamente ribadito che gli Stati Uniti non intendono rallentare la propria corsa tecnologica rispetto alla Cina.
Il valore del nuovo canale dipenderà quindi dai prossimi passaggi. Una comunicazione di crisi può essere utile quando un incidente è già avvenuto. Ma potremmo non permetterci di avere una vera crisi – o apocalissi AI – con danni sistemici ad aziende, sistemi finanziari, energetici o militari.
Una governance più matura richiede anche definizioni condivise degli eventi da notificare, contatti permanenti, criteri per distinguere un normale malfunzionamento da un episodio di perdita di controllo e qualche forma di confronto sui test impiegati per misurare capacità ad alto rischio.
Non occorre immaginare immediatamente un trattato globale sull’intelligenza artificiale. La storia della sicurezza internazionale – vedi trattati sul nucleare – mostra che la cooperazione può cominciare da strumenti molto più limitati: terminologia comune, notifiche, hotline, procedure di emergenza e standard tecnici progressivamente condivisi.
Adesso, val la pena ribadirlo, abbiamo sistemi autonomi capaci di agire sul mondo, con inedite caratteristiche di velocità, pianificazione, persistenza e coordinamento agentico.
Non bisogna farsi prendere dal panico, non stiamo combattendo contro entità artificiali incontrollabili in assoluto. Il controllo dell’AI è invece nelle nostre mani. E’ una scelta umana decidere se e come farlo. Con quali modi e con quali tempi.
Speriamo tutti che siano quelli giusti.
Partecipa alla community