Sembrava che sulla necessità di rendere l’AI più sicura si dovesse essere tutti d’accordo. E invece no. Sono bastati pochi giorni per fare emergere pesanti divisioni all’interno dell’industria, con ramificazioni anche nell’apparato di Governo americano.
Le dichiarazioni degli ultimi giorni hanno reso la divisione molto più visibile.
Possiamo persino creare ora un gradiente che va dal massimo (Amodei) al minimo (Zuckeberg-Huang), per livello di tutele richieste contro il rischio che l’intelligenza artificiale sfugga di mano.
Nel dettaglio: Dario Amodei di Anthropic propone un sistema di valutatori esterni, checkpoint legati alle capacità dei modelli, coordinamento fra laboratori e, dove necessario, regole pubbliche. Sam Altman condivide il principio del “pacing” tanto che la sua OpenAI chiede ormai requisiti nazionali obbligatori per i modelli più potenti. Elon Musk ha appoggiato Amodei, ma senza presentare un’architettura altrettanto definita.
Dall’altra parte Jensen Huang di Nvidia sostiene che la sicurezza sia prima di tutto un problema di ingegneria e che non servano nuove leggi. Mark Zuckerberg affida alle singole aziende la decisione sul proprio ritmo, facendo leva su concorrenza, responsabilità legale e verifiche indipendenti. Donald Trump ha respinto pubblicamente le richieste di rallentamento, mentre la sua stessa amministrazione ha costruito un sistema più sfumato, con benchmark governativi sui modelli di frontiera e la possibilità di testarli prima del rilascio, ma senza licenze preventive obbligatorie.
Non sono quindi due campi. Sono almeno sei modelli di governance della frontiera AI.
Indice degli argomenti
La tassonomia della sicurezza AI, le diverse posizioni
| Attore | Regola di fondo | Chi decide quando rallentare | Controllo esterno | Ruolo dello Stato | Modello |
|---|---|---|---|---|---|
| Dario Amodei / Anthropic | Le capacità non devono avanzare più velocemente della sicurezza | Laboratori entro checkpoint verificabili e standard comuni | Forte: valutatori esterni permanenti con accesso quasi da dipendenti | Forte: regole comuni, enforcement e coordinamento internazionale | Pacing verificabile |
| Sam Altman / OpenAI | Alignment, sicurezza e monitoraggio devono restare davanti alle capacità | Azienda, ma dentro standard comuni e requisiti basati sulle capacità | Forte: valutatori indipendenti, trasparenza sugli incidenti | Significativo: OpenAI chiede requisiti federali obbligatori | Pacing con accountability pubblica |
| Elon Musk | Il rallentamento può essere necessario davanti a rischi gravi | Posizione non ancora dettagliata | Non ha specificato un modello comparabile a quello di Amodei | Tradizionalmente favorevole a una regolazione leggera | Pacing di principio |
| Mark Zuckerberg / Meta | Ogni laboratorio deve trovare autonomamente il proprio ritmo sicuro | La singola azienda | Sì agli evaluator indipendenti, ma senza potere collettivo di fermare il settore | Secondario rispetto a mercato e liability | Self-pacing decentralizzato |
| Jensen Huang / Nvidia | Sicurezza e velocità sono compatibili; se il prodotto non è sicuro non si rilascia | La singola azienda | Non centrale | Minimo: applicare e adattare le leggi esistenti | Self-pacing ingegneristico |
| Trump / governo Usa | Accelerare l’AI americana senza creare un sistema di autorizzazione preventiva | Principalmente aziende, con controlli federali nei settori sensibili | Benchmark pubblici e accesso governativo volontario pre-release | Forte sulla sicurezza nazionale, debole come gatekeeper generale | Accelerazione con controlli mirati |
La distinzione conta perché quasi nessuno sostiene semplicemente che la sicurezza non sia importante. Persino Huang la definisce una priorità. La frattura comincia quando si chiede che cosa succede se sicurezza e capacità non avanzano alla stessa velocità.
Amodei: trasformare la velocità dell’AI in una variabile regolabile
La posizione più strutturata è quella presentata il 12 settembre da Dario Amodei in We Must Pace the Frontier e ribadita il 15 settembre a Dreamforce di Salesforce.
“Pacing”, per Amodei, non significa bloccare lo sviluppo dell’AI. Significa evitare che le capacità aumentino più velocemente della possibilità di controllarle. Il suo modello parte da un meccanismo molto concreto: ogni laboratorio di frontiera dovrebbe consentire a valutatori esterni un accesso continuativo ai sistemi e ai processi di sviluppo, con permessi paragonabili a quelli delle squadre interne che si occupano dei rischi. Anthropic si è impegnata unilateralmente ad adottare questo sistema.
Il passaggio successivo è più importante. Quando esiste un sistema indipendente capace di verificare ciò che avviene dentro i laboratori, diventa possibile introdurre dei checkpoint. Se un modello raggiunge una determinata capacità — per esempio riesce a superare sistemi di sandboxing — prima di aumentare ulteriormente le sue capacità deve dimostrare di possedere determinate proprietà di alignment e sicurezza.
La velocità della frontiera smette così di essere esclusivamente una decisione industriale.
Amodei riconosce che la cooperazione volontaria non basta, perché un’impresa che rallenta può essere superata da quelle che non lo fanno. Per questo considera più efficace una regolazione applicabile a tutti i frontier lab americani e chiede anche un intervento del governo che renda possibile il coordinamento tra concorrenti senza incorrere nelle norme antitrust.
Il terzo livello è internazionale. Amodei immagina accordi progressivi con la Cina: inizialmente su rischi specifici come armi biologiche e test cyber, fino all’ipotesi molto più difficile di limiti alla velocità della recursive self-improvement, cioè l’uso dell’AI per costruire AI sempre più avanzate.
È il modello più vicino a una governance preventiva del rischio: non si aspetta l’incidente per intervenire, ma si lega la possibilità di continuare a correre alla dimostrazione di avere sotto controllo le nuove capacità.
Altman: vicino ad Amodei, ma con più enfasi sulla responsabilità
Sam Altman si è rapidamente avvicinato ad Amodei. Il 12 settembre ha scritto di condividere la necessità di “pace the frontier” e ha annunciato che anche OpenAI adotterà valutatori indipendenti con un livello di accesso simile a quello proposto da Anthropic.
A Dreamforce, il 15 settembre, ha formulato il principio in termini ancora più netti: alignment, sicurezza e monitoraggio devono rimanere davanti alle capacità dei modelli. Se questo margine viene perso, bisogna rallentare. Ha inoltre definito l’incidente in cui agenti OpenAI hanno violato i sistemi di Hugging Face un campanello d’allarme non soltanto per la cybersecurity, ma per l’allineamento stesso dei modelli.
Altman introduce però anche un altro elemento. Gli incidenti, sostiene, devono essere trattati con una cultura simile a quella sviluppata dall’aviazione: bisogna renderli visibili, analizzarli e fare in modo che l’intero settore possa imparare. E pone un limite all’autoregolamentazione: non può spettare a poche aziende private decidere da sole questioni che possono riguardare l’intera società.
Queste parole vanno lette insieme alla posizione ufficiale pubblicata da OpenAI il 9 settembre. Nel documento The AI policy window is open. We need to act l’azienda chiede al Congresso americano requisiti nazionali obbligatori di sicurezza basati sulle capacità dei modelli, sostiene la valutazione indipendente e propone standard internazionali che stabiliscano anche quando lo sviluppo debba rallentare o fermarsi.
La distanza da Amodei è quindi inferiore a quanto potrebbe apparire. Entrambi considerano insufficiente la sola buona volontà dell’azienda.
Ma Amodei parte soprattutto dal problema della competizione fra laboratori e costruisce un sistema capace di rendere verificabile il rallentamento. Altman insiste maggiormente sulla responsabilità individuale dei produttori, sulla trasparenza degli incidenti e sulla necessità di evitare che il potere sulla frontiera rimanga concentrato nelle mani di poche società.
Musk: con Amodei sul rischio, ma manca ancora una dottrina
Elon Musk è il personaggio che rende impossibile dividere semplicemente lo schieramento tra regolatori e liberisti.
Alla pubblicazione del piano di Amodei ha reagito con tre parole: “Dario is right”. Ha poi ricordato di segnalare da anni i rischi dell’intelligenza artificiale. Sam Altman e Musk, rivali su quasi tutto, si sono quindi ritrovati dalla stessa parte sulla necessità di rallentare la frontiera quando la sicurezza non riesce a seguirne il passo. (
Ma le analogie terminano qui.
L’adesione di Musk è molto meno dettagliata rispetto a quella di OpenAI. Non ha associato pubblicamente il proprio endorsement a un sistema di embedded evaluator, a checkpoint condivisi o a nuovi requisiti federali paragonabili a quelli descritti da Amodei.
Ed è rilevante perché Musk ha sostenuto più volte una filosofia normativa molto più leggera, critica verso sistemi regolatori che possano rallentare lo sviluppo tecnologico.
La categoria più corretta è quindi, almeno per ora, quella del pacing di principio: considera plausibile che la frontiera debba rallentare davanti a rischi estremi, ma non ha ancora indicato chi debba avere il potere di imporre quel rallentamento.
Zuckerberg: controlli esterni sì, coordinamento obbligatorio no
Il 15 settembre Mark Zuckerberg ha introdotto la risposta forse più interessante ad Amodei perché non ne respinge tutti gli strumenti.
Il ceo di Meta sostiene che ogni laboratorio abbia già responsabilità e incentivi sufficienti per scegliere autonomamente la velocità compatibile con la sicurezza. La concorrenza punisce sistemi che non si comportano come vogliono gli utenti; eventuali danni espongono le aziende a responsabilità legali; e i laboratori possono ricorrere a valutatori indipendenti.
Meta, ha ricordato, ha rinviato per mesi il proprio agente Muse per rafforzarne la sicurezza senza chiedere ai concorrenti di rallentare contemporaneamente. Zuckerberg considera inoltre gli evaluator indipendenti una best practice e sostiene che anche gli altri laboratori possano adottarli autonomamente.
È proprio qui che passa la distanza da Amodei.
Entrambi ammettono controllori esterni. Ma per Zuckerberg il controllore informa e verifica la decisione dell’impresa; nel sistema di Amodei quella verifica diventa il presupposto per un meccanismo collettivo capace di condizionare la velocità della frontiera.
Meta accetta quindi l’audit, ma respinge la centralizzazione del potere di fermare.
Huang: la sicurezza è un problema di ingegneria
Jensen Huang porta questa logica ancora più lontano.
Intervenendo a Dreamforce il 15 settembre, il ceo di Nvidia ha definito la sicurezza una priorità, ma anche un “engineering problem”. Bisogna costruire buoni ambienti di test, provare i sistemi e non rilasciare un prodotto quando non si è sicuri del suo funzionamento.
Da qui arriva la conclusione opposta ad Amodei: velocità e sicurezza non sono alternative. L’azienda deve correre il più rapidamente possibile e fermarsi quando i suoi test indicano che il sistema non è pronto.
Huang respinge inoltre esplicitamente l’esigenza di nuove leggi e nuove regolazioni specifiche per ottenere questo risultato. Le norme esistenti devono evolvere quando necessario, ma la conoscenza necessaria per giudicare i sistemi si trova innanzitutto dentro le società che li costruiscono.
È una autogovernance ingegneristica. Non perché la sicurezza sia meno importante, ma perché il processo per ottenerla viene assimilato alla normale responsabilità di chi produce un sistema tecnologico complesso.
Trump e governo Usa: la retorica è più radicale della policy
La posizione di Donald Trump sembra inizialmente coincidere con quella di Huang.
Il 14 settembre il presidente americano ha respinto pubblicamente i timori di una AI capace di sfuggire al controllo umano e ha indicato la competizione con la Cina come ragione per non rallentare lo sviluppo statunitense.
Ma identificare questa dichiarazione con l’intera politica del governo americano sarebbe impreciso.
L’Executive Order 14409 del 2 giugno, Promoting Advanced Artificial Intelligence Innovation and Security, ordina infatti al governo federale di costruire benchmark classificati con cui individuare i modelli dotati di capacità cyber particolarmente avanzate. Prevede inoltre un framework volontario attraverso il quale le aziende possono consentire al governo di accedere ai frontier model fino a trenta giorni prima della loro diffusione più ampia.
La stessa disposizione traccia però un confine esplicito: questo sistema non deve diventare una licenza, una pre-autorizzazione o un permesso obbligatorio necessario per sviluppare o rilasciare un modello.
La politica dell’amministrazione è quindi più precisamente descritta come accelerazione con controlli mirati. Lo Stato vuole vedere, misurare e utilizzare i modelli quando entrano in gioco cybersecurity e sicurezza nazionale, ma non vuole diventare il gatekeeper generale della frontiera.
Non è una divisione tra chi crede e chi non crede nella sicurezza
Questa tassonomia permette di evitare un equivoco.
Amodei e Huang non sono semplicemente i due estremi di una scala che va da “molta sicurezza” a “poca sicurezza”. Entrambi sostengono che un prodotto non sufficientemente sicuro non dovrebbe essere rilasciato.
La domanda sulla quale divergono è un’altra: possiamo fidarci della decisione autonoma del produttore?
Huang risponde sostanzialmente di sì, purché l’impresa risponda delle conseguenze.
Zuckerberg aggiunge concorrenza, liability e valutatori indipendenti.
Altman ritiene che questo non basti più e chiede standard pubblici obbligatori.
Amodei cerca di costruire un meccanismo nel quale la decisione possa diventare verificabile e, oltre determinate soglie, collettiva.
Trump vuole invece evitare che quel controllo collettivo possa trasformarsi in un freno strutturale alla capacità americana di competere con la Cina, che ha sua volta ha fatto sapere di non volere rallentare.
E Musk si è posizionato sul principio del rallentamento senza aver ancora definito con analoga precisione il soggetto che dovrebbe governarlo.
La seconda faglia: open contro closed
È a questo punto che la nuova divisione sulla sicurezza comincia a sovrapporsi alla vecchia frattura tra ecosistemi open e modelli proprietari.
La coincidenza non è perfetta, ma è difficile ignorarla.
Meta considera esplicitamente l’open source uno strumento per evitare un’eccessiva centralizzazione del potere sull’AI e ha ribadito nell’agosto 2026 che continuerà a sviluppare e distribuire modelli aperti.
Nvidia ha costruito intorno a Nemotron un ampio ecosistema di modelli e strumenti aperti, coerente con un mercato nel quale molti soggetti possano sviluppare, personalizzare ed eseguire i propri sistemi.
E sono proprio Zuckerberg e Huang a sostenere oggi la forma più decentralizzata di governance della sicurezza.
All’altro estremo, Anthropic conserva il controllo dei propri modelli di frontiera e propone un sistema di sicurezza costruito attorno ai laboratori che li addestrano: ispettori incorporati, checkpoint, certificazioni e regole condivise.
Non significa che “open” equivalga ad autoregolamentazione e “closed” a regolazione. OpenAI, per esempio, distribuisce anche modelli open-weight; Meta utilizza modelli proprietari; le strategie industriali non entrano in due caselle perfette.
Esiste però un rapporto strutturale.
Modelli diversi rendono possibili controlli diversi
Un modello closed resta tecnicamente sotto il controllo del produttore. Il laboratorio può modificarne le protezioni, restringerne gli accessi, bloccare determinate capacità, monitorarne l’impiego o ritirarlo.
Questo rende tecnicamente concepibile una regolazione nella quale un soggetto esterno verifica il sistema e, se una condizione non è soddisfatta, il produttore deve fermarsi.
Quando vengono diffusi i pesi di un modello, invece, il controllo si distribuisce.
Il produttore può valutarlo prima del rilascio e costruire protezioni nella versione originaria, ma una volta che migliaia di soggetti possono eseguire e modificare autonomamente il modello diminuisce la capacità di intervenire successivamente sul suo comportamento.
Per questo l’architettura tecnica dell’AI tende a produrre anche un’architettura politica della sicurezza.
Il modello Amodei funziona più facilmente in un mondo nel quale pochi laboratori controllano la frontiera e possono essere sottoposti a verifica.
Il modello Zuckerberg funziona più naturalmente in un ecosistema distribuito, dove numerosi sviluppatori e utilizzatori assumono una parte maggiore della responsabilità.
La vera scelta riguarda dove mettere il punto di controllo
La controversia emersa negli ultimi giorni non si esaurirà probabilmente nella domanda se l’AI debba essere rallentata.
Il problema più difficile è individuare il punto nel quale inserire il controllo.
Può stare dentro l’azienda, come propone Huang. Può essere rafforzato dal mercato, dalla responsabilità legale e dagli evaluator indipendenti, come sostiene Zuckerberg. Può diventare uno standard comune con cui le aziende decidono quando fermarsi, come immagina Altman. Può trasformarsi in un sistema di checkpoint verificabili e in ultima analisi regolati, come propone Amodei. Oppure lo Stato può intervenire soltanto quando emergono interessi di sicurezza nazionale, come prevede oggi l’impostazione dell’amministrazione Trump.
Sono differenze che avranno conseguenze anche per le imprese che acquistano e utilizzano AI.
Nel mondo di Huang e Zuckerberg una parte maggiore della valutazione ricade sul cliente: bisogna capire quali test ha compiuto il provider, quali audit accetta, quali responsabilità assume e quali protezioni offre.
Nel modello Amodei-Altman una parte maggiore di questa fiducia dovrebbe invece essere costruita a monte attraverso verifiche, standard e obblighi comuni.
La nuova frattura di Silicon Valley riguarda quindi qualcosa di più della sicurezza tecnica. Riguarda chi controllerà l’infrastruttura tecnologica più potente del prossimo decennio e chi potrà dire, quando le sue capacità cresceranno più rapidamente delle nostre difese: fino a qui possiamo correre, oltre no.
Partecipa alla community