La grande sfida di rendere sicura l’AI di frontiera sta mettendo Anthropic in un angolo. Una posizione sempre più scomoda e isolata, in cui l’azienda si trova a combattere una battaglia diventata impopolare nella Silicon Valley. la stessa che la contrappone a Donald Trump.
L’azienda è accusata di pratiche anticoncorrenziali, di opporsi all’AI open (unico grande laboratorio a non firmare la lettera Open Weights and American AI Leadership sostenuta da Nvidia, Meta, OpenAI e Google).
Attenzione: ciò che sta montando nell’industria americana dell’AI non è una semplice rivalità commerciale, è una crisi di fiducia, alimentata da episodi specifici e verificabili, che interroga l’intero settore su un nodo che finora era rimasto tecnico e che ora è diventato politico. Il nodo è la trasparenza dei safeguard, i meccanismi di sicurezza integrati nei modelli AI e la loro doppia natura possibile.
Per capire come si è arrivati qui, bisogna ricostruire tre sequenze di fatti distinte, che a luglio 2026 si sono sovrapposte nella percezione dell’industria ma che hanno cause e implicazioni diverse.
Indice degli argomenti
La competizione con i partner: Claude Design
Il 17 aprile 2026 Anthropic ha lanciato Claude Design, un tool AI che genera prototipi interattivi, slide deck e materiali marketing da prompt in linguaggio naturale. Tre giorni prima del lancio, il Chief Product Officer di Anthropic, Mike Krieger, si era dimesso dal board di Figma, lo stesso partner di design che stava integrando i modelli Claude nei propri prodotti. Il titolo Figma in borsa è sceso del 7% in giornata.
La sequenza è eloquente e la gestione è stata maldestra: la dimissione dal board segnala consapevolezza del conflitto, non gestione del conflitto. Ma il fenomeno in sé non è senza precedenti, è lo stesso schema che Google ha applicato a decine di partner dell’ecosistema Android, che Amazon ha replicato con i venditori del proprio marketplace, che Microsoft ha imposto per anni ai produttori di software che giravano su Windows.
Nella storia delle piattaforme tecnologiche, il momento in cui il fornitore di infrastruttura diventa concorrente del proprio cliente è una costante strutturale, non un’anomalia.
Fable 5: il laboratorio della trasparenza mancata
Il 9 giugno 2026 Anthropic ha rilasciato Claude Fable 5, la prima versione pubblicamente disponibile della sua classe di modelli Mythos, il livello di capacità superiore alla linea Opus, inizialmente riservato a un ristretto gruppo di partner governativi e di cybersicurezza tramite il programma Project Glasswing. Fable 5 è stato presentato come la versione guardrailed di quella stessa architettura: stesse capacità di base, con meccanismi di sicurezza che ne limitano l’uso in aree ad alto rischio.
I safeguard dichiarati seguivano una logica comprensibile: nelle aree di cybersicurezza, biologia e chimica, il modello bloccava le risposte o le reindirizzava al modello precedente Opus 4.8, notificando l’utente del fallback. Architettura di sicurezza documentata nella system card del modello, un documento di 319 pagine coerente con la postura pubblica di Anthropic sulla responsabilità dei modelli frontier.
Ma nella stessa system card, in una sezione che non aveva ricevuto visibilità nel lancio, era descritto un quarto meccanismo. Quando il modello rilevava pattern riconducibili a tentativi di distillazione, l’uso sistematico degli output di un modello grande per addestrare modelli più piccoli e concorrenti, non bloccava la richiesta e non faceva fallback a un modello inferiore. Invece, alterava silenziosamente il prompt dell’utente per produrre risultati degradati, senza che l’utente avesse alcun modo di sapere che stava ricevendo un output manipolato anziché la risposta reale.
La differenza rispetto agli altri guardrail non è di grado ma di natura. I blocchi su cybersicurezza e biologia erano visibili: l’utente sapeva di star ricevendo un rifiuto o un downgrade. Il meccanismo anti-distillazione era progettato per essere invisibile, il suo funzionamento dipendeva dal fatto che l’utente non ne fosse consapevole.
La reazione della comunità di ricerca è stata immediata e insolitamente dura. Entro pochi giorni Anthropic ha corretto, ha annunciato che il guardrail sarebbe stato reso visibile, che le query flaggate per distillazione sarebbero state reindirizzate a Opus 4.8 con notifica esplicita e che lato API ogni rifiuto avrebbe incluso un motivo dichiarato. La correzione è stata volontaria, non imposta dall’esterno e questo va riconosciuto. Ma il danno alla fiducia era fatto.
Il paradosso di giugno: troppo restrittivi e non abbastanza
Tre giorni dopo il rilascio pubblico di Fable 5, il 12 giugno, il governo degli Stati Uniti ha ordinato la sospensione globale del modello, insieme alla versione completa Mythos 5, citando poteri di controllo sulle esportazioni e ragioni di sicurezza nazionale. Il Dipartimento del Commercio ha agito dopo che ricercatori di Amazon hanno individuato una vulnerabilità di jailbreak: una tecnica per aggirare i guardrail di sicurezza del modello, che potenzialmente lo trasformava in uno strumento cyber offensivo senza restrizioni.
Il punto va sottolineato: l’intervento governativo non riguardava il guardrail invisibile sulla distillazione. Riguardava l’insufficienza dei guardrail di sicurezza, quelli dichiarati e visibili. Le due crisi, guardrail opachi e guardrail bucati, sono state contemporanee ma distinte nelle cause, nei soggetti che le hanno innescate e nelle implicazioni.
L’accostamento, tuttavia, ha prodotto un paradosso che ha segnato la percezione dell’intero mese di giugno: Anthropic è stata criticata per aver integrato nel modello un meccanismo di controllo troppo invasivo e nascosto, nello stesso periodo è stata bloccata dal governo perché i meccanismi di controllo dichiarati non erano abbastanza robusti. Le due cose non si contraddicono, ma mostrano che i safeguard non sono un blocco monolitico. Sono un assemblaggio di meccanismi distinti, con finalità, beneficiari e livelli di trasparenza diversi. Trattarli come un tutt’uno, Anthropic è troppo restrittiva o Anthropic non è abbastanza sicura, significa perdere il punto.
I modelli sono tornati disponibili il 1° luglio con limitazioni aggiuntive. Ricercatori del CAISI (Center for AI Standards and Innovation del Dipartimento del Commercio) hanno testato i nuovi safeguard e li hanno definiti “straordinariamente robusti”. Anthropic ha dichiarato di collaborare con il governo per test e valutazioni pre-deployment.
La lettera open-weight e l’isolamento di Anthropic
Il terzo fronte si è aperto il 24 luglio, quando Jensen Huang, con il suo primo post in assoluto su X, ha pubblicato la lettera Open Weights and American AI Leadership, firmata inizialmente da 25 aziende tra cui Nvidia, Microsoft, Meta, Palantir, Hugging Face e Y Combinator. La lettera chiedeva a Washington di non imporre restrizioni premature sui modelli AI a pesi aperti, cioè quelli i cui parametri possono essere scaricati, modificati e utilizzati su infrastrutture proprietarie.
Il contesto era la crescente pressione dell’amministrazione Trump per limitare l’accesso a modelli open-weight cinesi, in particolare dopo il lancio di Kimi K3 di Moonshot AI, un modello che aveva raggiunto prestazioni comparabili ai sistemi chiusi americani. La lettera non menzionava la Cina esplicitamente, ma il sottotesto era evidente.
In un giorno i firmatari sono raddoppiati a 50. OpenAI e Google hanno aderito dopo un’iniziale assenza che era stata notata e commentata. Anthropic no. L’ex consigliere AI della Casa Bianca David Sacks ha definito la posizione di Anthropic una strategia di cattura regolatoria basata sull’allarmismo.
Il 27 luglio Dario Amodei ha risposto con un post ufficiale sul sito dell’azienda: Anthropic non ha mai sostenuto un divieto sui modelli open-weight, e i modelli aperti privi di capacità pericolose sono un bene pubblico. Le misure che Amodei propone sono circoscritte: controllo sull’export di chip verso governi autoritari, contrasto alla distillazione su scala industriale, test di sicurezza obbligatori per tutti i modelli sufficientemente capaci, aperti o chiusi.
La posizione non è incoerente. Ma la sua credibilità è condizionata dal contesto in cui arriva: dopo un mese in cui un guardrail anti-distillazione invisibile ha mostrato che la distillazione per Anthropic non è solo un rischio di sicurezza, ma anche una minaccia al proprio vantaggio competitivo.
Il nodo reale: la doppia leggibilità dei safeguard
Sotto la cronaca del backlash, il caso Anthropic porta in superficie una questione strutturale che riguarda l’intero ecosistema AI e che non ha ancora un luogo istituzionale dove essere affrontata.
Il guardrail anti-distillazione di Fable 5 è il primo caso pubblicamente documentato in cui un singolo meccanismo tecnico all’interno di un modello AI serviva contemporaneamente due finalità: una di sicurezza dell’ecosistema (impedire la proliferazione non controllata di capacità frontier) e una di protezione commerciale del fornitore (impedire che i propri output vengano usati per addestrare modelli concorrenti). Queste due finalità possono coesistere senza che una escluda l’altra. Ma quando coesistono all’interno di un meccanismo opaco, progettato per funzionare senza che l’utente ne sia consapevole, l’ecosistema non ha strumenti per valutare quale finalità prevalga, né per distinguere un safeguard legittimo da una barriera competitiva.
Questo è ciò che possiamo osservare nei fatti. Quello che non possiamo stabilire, perché non abbiamo accesso a quel livello di informazione, è quale fosse l’intenzione primaria di Anthropic nel progettare quel meccanismo. Amodei tratta la distillazione come un rischio di sicurezza reale e la colloca tra le misure mirate che propone per l’intero settore. Sacks e altri critici leggono la stessa posizione come protezione commerciale mascherata da cautela. Entrambe le letture sono compatibili con i fatti disponibili.
Non è rilevante chi abbia ragione, il punto è che non esiste oggi un framework condiviso, né tecnico né regolatorio, per dirimere questa ambiguità. In assenza di quel framework, il mercato reagisce con l’unico strumento che ha, il riposizionamento. La migrazione verso modelli open-weight che il WSJ documenta non è il risultato di una valutazione tecnica comparata, è una risposta alla perdita di leggibilità dei meccanismi con cui un fornitore controlla il proprio modello.
Anthropic, la domanda per l’Europa
L’AI Act europeo impone obblighi di trasparenza ai fornitori di modelli ad alto rischio, con le disposizioni sui modelli general-purpose a rischio sistemico, richiede documentazione tecnica, valutazioni dei rischi e misure di mitigazione. Ma la zona grigia che il caso Fable 5 ha reso visibile, un safeguard che protegge contemporaneamente sicurezza e posizione di mercato, non è esplicitamente coperta dal framework normativo esistente.
La trasparenza richiesta riguarda il cosa, quali meccanismi di sicurezza sono presenti, come funzionano, quali rischi mitigano. Non riguarda il per chi, a chi giova il meccanismo quando si attiva, e se la sua progettazione riflette un obiettivo di sicurezza pubblica o un interesse proprietario del fornitore.
Una distinzione che può sembrare sottile, ma i fatti la rendono concreta. Un’impresa europea che utilizza un modello AI tramite API ha il diritto di sapere non solo che un safeguard esiste, ma se quel safeguard potrebbe alterare silenziosamente gli output che riceve e in funzione di quale obiettivo. Dopo il caso Fable 5, questa non è più una questione teorica: è un rischio operativo documentato.
La vicenda Anthropic, dunque, non è solo una cronaca di settore.
Mette il dito in una piaga irrisolta, perché non c’è risposta a questa domanda: la sicurezza dei modelli AI è un fatto tecnico verificabile o una dichiarazione del fornitore che va presa sulla fiducia? Finora la risposta, di fatto, è stata la seconda. Il conflitto nella Silicon Valley suggerisce che quel modello di fiducia ha iniziato a scricchiolare.
Partecipa alla community