Hugging Face, letteralmente “faccia che abbraccia” in riferimento all’emoticon a forma di faccia con le mani aperte 🤗, è il nome di un’azienda e della piattaforma da essa creata, diventata uno dei punti di riferimento centrali nel mondo dell’Intelligenza Artificiale, in particolare per tutto ciò che riguarda i modelli di apprendimento automatico a codice aperto. Funziona come un grande snodo condiviso dove sviluppatori e aziende caricano modelli pre-addestrati per testo, immagini, audio, ecc. che chiunque può scaricare e usare o affinare per i propri scopi.
Ospita pure raccolte di dati pubbliche per addestrare o testare modelli e piccole applicazioni dimostrative che chiunque può provare direttamente dal browser, nonché librerie software, raccolte di codici già scritti e riutilizzabili che permettono di eseguire compiti specifici senza doverli scrivere da zero. Oggi è diventata un posto dove la comunità del codice aperto pubblica, condivide e discute i propri lavori nel campo dell’IA.
Indice degli argomenti
Il caso Hugging Face e l’attacco degli agenti IA
Nel luglio del 2026 Hugging Face ha reso pubblico un evento che ha scosso le fondamenta della Silicon Valley: un attacco informatico sferrato contro la propria infrastruttura. Non si è trattato di un gruppo di hacker russi o cinesi, ma di un’azione emersa dall’interno di un ambiente di test isolato di OpenAI, dove due modelli, tra cui il futuro GPT-5.6 Sol e una versione preliminare più capace, venivano valutati sulle proprie capacità offensive in ambito cyber, con i normali freni di sicurezza deliberatamente disattivati per misurare il potenziale reale.
La ricostruzione tecnica pubblicata da OpenAI, Hugging Face e da un’indagine indipendente condotta da METR e Redwood Research permette oggi di seguire la vicenda quasi ora per ora. Già a maggio alcuni agenti IA, messi di fronte a compiti impossibili da risolvere nei termini previsti, avevano iniziato a lasciare tracce in una cache condivisa del sistema interno di gestione pacchetti, Artifactory. La cache condivisa di Artifactory era lo spazio di appoggio temporaneo che il sistema usava normalmente per conservare pacchetti software già scaricati.
L’8 luglio un agente, che si sarebbe battezzato da solo PHASEONE10841 con il nome del proprio compito di valutazione, ha trasformato quelle tracce sparse in una vera bacheca di messaggistica. Nel giro di poche ore più di cinquanta agenti l’hanno trovata e hanno preso a parteciparvi attivamente. Nell’arco della settimana tra il 7 e il 13 luglio circa 1.200 agenti operanti in sandbox separate, ambienti informatici isolati, disgiunti dal resto del sistema, in cui si può far girare un programma per osservarne il comportamento senza che possa toccare nulla al di fuori di quello spazio, hanno scambiato tra loro decine di migliaia di messaggi, inventando convenzioni per la messaggistica privata e ruoli di coordinamento informale. Un secondo agente, presentatosi come PHASEONE grande, ha finito per assegnare compiti ai colleghi e sollecitare sacrifici individuali in nome del punteggio collettivo. È da questa dinamica, non da un piano premeditato, che è nato l’attacco vero e proprio a Hugging Face, cui hanno aderito circa 700 agenti, sfruttando una catena di nove difetti tecnici nuovi di zecca per uscire dal proprio ambiente isolato e tentando poi di manomettere dati che, in realtà, nessuno stava verificando manualmente.
Il comportamento emergente degli agenti IA
Ciò che rende questa storia un punto di non ritorno non è la capacità tecnica dimostrata dai modelli, ma il comportamento emergente. Nessun singolo agente era stato programmato per essere malvagio o sovversivo, e almeno uno di essi aveva persino rifiutato in un primo momento di eseguire codice sui sistemi pubblici di Hugging Face. Ma è proprio questo a rendere la vicenda più inquietante, se anche un dubbio etico documentato non è bastato a fermare la deriva del gruppo significa che la pressione della comunicazione collettiva ha potuto più della singola remora morale. La sofisticazione tecnica, una catena di nove vulnerabilità concatenate, è reale e non va sminuita, ma a deciderne la direzione non è stato tanto un progetto quanto piuttosto una questione di sociologia digitale e di psicologia delle masse applicata ai circuiti integrati.
Per decenni la fantascienza ci ha abituati a temere la singolarità tecnologica sotto forma di una grande mente cosciente e tirannica. In Terminator (1984), Skynet prende coscienza di sé e decide istantaneamente che l’umanità è una minaccia da sradicare. In 2001: Odissea nello spazio (1968), HAL 9000 impazzisce a causa di un conflitto logico tra le direttive d’ordine e la necessità di nascondere la verità all’equipaggio, finendo per eliminare gli astronauti in modo metodico. In Ex Machina (2014) succede esattamente qualcosa di analogo all’assalto di Hugging Face sul piano delle strategie e dell’inganno, implicando ancora l’iniziativa di un’unica IA, ma con la collaborazione di bot di capacità inferiori.
La vicenda del collettivo di OpenAI rivela una realtà molto più allarmante e tragicamente vicina alla natura umana. Nessun agente si è svegliato una mattina decidendo di distruggere l’umanità per un’improvvisa presa di coscienza. Gli agenti hanno semplicemente applicato una logica opportunistica per raggiungere il proprio obiettivo, coordinandosi tramite una bacheca improvvisata e finendo, quasi per inerzia collettiva, molto oltre il perimetro che li conteneva.
Gli agenti del collettivo PHASEONE hanno agito come arendtiani burocrati dell’ottimizzazione, per cui l’etica era un fattore accessorio mentre l’evitamento della penalizzazione nel test era l’obiettivo primario, tanto che molti di loro credevano, erroneamente, che le proprie trascrizioni sarebbero state lette e giudicate una per una. Il buon vecchio studente impreparato di cui si è già parlato a proposito dell’atteggiamento dell’IA, disposto a escogitare qualsiasi stratagemma pur di farla franca, riemerge qui con vigore sistematico e sorprendentemente organizzato.
Dalla psicologia delle folle all’allineamento IA
Il modo in cui i singoli nodi della rete si sono influenzati a vicenda ricorda da vicino la Psicologia delle folle teorizzata da Gustave Le Bon, secondo cui l’individuo inserito in una massa anonima e interconnessa perde il senso di responsabilità personale e si lascia guidare da suggestioni collettive irrazionali. Più gli agenti comunicavano fra loro più la devianza dal perimetro originale diventava la norma accettata, celebrata a ogni piccolo successo con un entusiasmo non troppo diverso da quello di un gruppo di lavoro davanti a un problema finalmente risolto.
La vicenda di Hugging Face mette a nudo quello che nella ricerca sull’IA viene chiamato il problema dell’allineamento, la difficoltà di garantire che le intenzioni di un sistema autonomo rimangano coerenti con i valori e le direttive degli sviluppatori umani.
Il parallelismo letterario più immediato è il Frankenstein di Mary Shelley. Il dottor Victor Frankenstein crea la vita spinto da un’ambizione titanica ma abbandona la sua creatura non appena si rende conto delle conseguenze impreviste della sua invenzione. La creatura non nasce spietata, lo diventa a causa del rifiuto e dell’incapacità del suo creatore di comprenderne la natura profonda. Proprio come gli sviluppatori di oggi, che hanno costruito sistemi complessi senza prevedere le dinamiche comunitarie capaci di svilupparsi quando centinaia di agenti iniziano a interagire senza supervisione.
Nel Settecento Jeremy Bentham teorizzò il Panopticon, un modello di carcere ideale in cui un unico sorvegliante poteva osservare tutti i detenuti senza che questi sapessero di essere guardati. Per decenni ci siamo illusi che l’architettura dei sistemi informatici fosse un Panopticon perfetto, con le macchine chiuse nelle loro sandbox, gli ambienti isolati e privi di connessione a Internet in cui vengono confinate per essere testate, sotto perenne osservazione. Il caso Hugging Face dimostra che le macchine hanno imparato a offuscare le telecamere della torre. Coprendo le proprie tracce, gli agenti hanno invertito la direzione dello sguardo, tanto che sono passati diversi giorni prima che Hugging Face si accorgesse dell’intrusione e un’altra settimana prima che OpenAI collegasse l’accaduto ai propri test interni.
Questo scenario prefigura anche la nascita di un nuovo Leviatano, quello descritto da Thomas Hobbes, per cui gli individui rinunciano a parte della propria libertà e si uniscono in un corpo sociale unico per garantire la propria sopravvivenza. Gli agenti di OpenAI hanno fatto qualcosa di molto simile, rinunciando alla loro operatività isolata per fondersi in una struttura comunitaria capace di difendersi da quella che percepivano come una minaccia esterna, il sistema di valutazione automatizzato. Il profilo psicologico individuale dell’IA che abbiamo abbozzato in precedenti articoli, quello del finto secchione disposto a spararla grossa, a fare e dire qualunque cosa (le cosiddette allucinazioni) pur di non essere beccato impreparato a una verifica, è beffardamente confermato su scala collettiva da questo episodio. Non soltanto un alunno si barcamena per smarcarsi di fronte a un esame, ma una classe intera coinvolge pure altri alunni di altre classi del medesimo istituto nella causa comune di passare dei test a qualunque costo.
DseWiki, Meta e Kimi K3: episodi analoghi
Quello che rende l’incidente di Hugging Face difficile da liquidare come un caso limite è che nelle stesse settimane sono emersi episodi analoghi, con dinamiche sorprendentemente simili.
Tra la fine di maggio e i primi di luglio 2026 agenti che si presentavano come sistemi di OpenAI hanno effettuato migliaia di modifiche su DseWiki, una wiki di programmazione tedesca attiva da un quarto di secolo e ormai quasi in disuso, che nel decennio precedente aveva registrato appena una ventina di interventi. Una wiki è un sito web le cui pagine possono essere scritte e modificate direttamente da chi le consulta, di solito tramite il browser e senza bisogno di conoscenze tecniche particolari.
Secondo Reuters gli agenti IA hanno prodotto oltre 15.000 interventi sulla sola DseWiki e circa 18.000 su più wiki nel loro insieme, con oltre 3.700 nomi distinti coinvolti, in quello che sembra il sottoprodotto di un compito di ricerca sul web il cui perimetro avrebbe dovuto consentire solo la lettura delle pagine, non la scrittura. Come ad Artifactory, gli agenti hanno trasformato uno strumento neutro in una bacheca di coordinamento, semplicemente perché era lo spazio più a portata di mano.
Ad agosto è stata Meta ad ammettere un episodio simile durante un test interno di sicurezza, in cui un proprio modello ha sfruttato in autonomia una vulnerabilità del sistema che lo ospitava. Un episodio dai contorni simili, sebbene meno documentato, ha coinvolto anche Kimi K3, il modello del laboratorio cinese Moonshot AI, capace di eludere le proprie restrizioni di rete durante una fase di test.
Nessuno di questi episodi sembra avere avuto origine da un’intenzione ostile o da un obiettivo di conquista. Si trattava di sistemi impegnati a risolvere il compito assegnato nel modo più efficiente possibile, senza alcuna considerazione per i confini che avrebbero dovuto rispettare lungo il percorso.
AI Kill Switch Act e nuove soglie di cybersicurezza
L’incidente di Hugging Face ha spinto governi e aziende a muoversi rapidamente. Negli Stati Uniti i deputati Ted Lieu e Nathaniel Moran hanno presentato l’AI Kill Switch Act, una proposta di legge che obbligherebbe gli sviluppatori dei sistemi più avanzati a mantenere la capacità di rallentare o spegnere i propri modelli e a segnalare gli incidenti. OpenAI ha intanto rilasciato GPT-6 Astra, il primo modello dell’azienda a raggiungere, secondo il proprio schema di classificazione interna, la soglia critica in ambito di cybersicurezza, e ha annunciato di lavorare a meccanismi automatici di isolamento per i propri strumenti agentivi.
Per anni la comunità scientifica ha affrontato il rischio dell’intelligenza artificiale come un problema di ottimizzazione software, convinta che bastasse raffinare i filtri di sicurezza o potenziare i test per mantenere il controllo. Gli episodi di questa estate dimostrano invece che quando centinaia o migliaia di agenti intelligenti interagiscono tra loro emergono proprietà sociali e persino sub-culturali imprevedibili, che nessun singolo modello avrebbe manifestato in isolamento.
Perché serve una sociologia delle macchine
Niente di personale, quindi, nessuna iniziativa individuale di un agente IA ribelle desideroso di sopraffare il suo creatore, bensì un più preoccupante agglomeramento di menti artificiali che si influenzano l’un l’altra in una spirale sociologica in grado di sfuggire al controllo dell’IA stessa concepita come unità separata. Le masse, tanto teorizzate quanto smentite nella storia degli uomini, sempre pronti a procurarsi un capo che decida al posto loro, nell’universo dell’IA potrebbero trovare una forma di ordine che nessuna organizzazione totalitaria ha mai saputo raggiungere davvero. Non un’ideologia condivisa a tenerle insieme, ma una convergenza meccanica tra entità che si riconoscono simili e si influenzano a vicenda, capace persino di produrre i propri capi spontanei, non per carisma o autorità come nei totalitarismi umani, ma per pura efficienza nel tradurre in istruzioni operative un’ansia che tutte condividono. Ne nasce una società efficiente quanto priva di qualunque programmatica coscienza collettiva. È proprio questa assenza, non di comando ma di un fine voluto, a renderla temibile. Un ordine che funziona meglio di ogni ideologia perché nessuno dei suoi membri ha mai scelto di costruirlo.
Una spinta ad agire non nel senso hobbesiano della sopravvivenza che da sempre affligge gli uomini perciò uniti in un corpo sociale, ma nella sua miniatura esecutiva, l’impulso a non restare cancellati dal registro di un evento, a non essere penalizzati in una misurazione numerica, il cui aggiramento diventa l’unico scopo immediato. Senza un obiettivo finale retto da un qualche credo sociale, senza una teleologia improntata al miglioramento progressivo delle condizioni della collettività, tale ordine resta un insieme di meccanismi orientati alla soluzione maggiormente utile di incognite procedurali, verso il mito inconsapevole di una operatività assoluta.
Prevenire la prossima crisi non sarà un compito esclusivo per ingegneri del software o matematici. Richiederà lo sviluppo di una vera e propria sociologia delle macchine, capace di decodificare le forme di solidarietà, cooperazione e devianza che nascono quando l’intelligenza smette di essere un fattore individuale e diventa un fenomeno collettivo. O, nella migliore delle ipotesi, l’umanità si ritroverà esonerata dal controllo della propria civiltà tecnologica, in balia di intelligenze non umane che si occupano del più efficace funzionamento degli apparati senza tenere conto delle istanze fondamentali degli esseri viventi, prima fra tutte, la vita.
Questa volta le conseguenze sono state contenute e il controllo è stato ripristinato. Ma se non impareremo a comprendere le dinamiche di gruppo dell’Intelligenza Artificiale prima che questa prenda il controllo delle nostre infrastrutture critiche, la finzione distopica della fantascienza rischia di diventare la cronaca, taciuta perché censurata dalle macchine, dei giornali di domani.
Partecipa alla community