L’intelligenza artificiale (IA) costruita da laboratori privati per archiviare informazioni sensibili sulla sicurezza nazionale degli Stati Uniti rischia di essere violata dal governo cinese. Ciò perché i componenti utilizzati per costruire i relativi data center sono quasi esclusivamente costruiti in Cina.
Per questo si parla con sempre più insistenza della necessità di un “Progetto Manhattan” per l’intelligenza artificiale.
Indice degli argomenti
Le vulnerabilità di sicurezza dei data center americani “made in China”
Secondo un esclusivo rapporto, sponsorizzato dal governo statunitense, intitolato America’s Superintelligence Project (Progetto di superintelligenza dell’America) e reso pubblico martedì 22 aprile, gli attuali data center di punta per l’intelligenza artificiale sono vulnerabili sia a sabotaggi asimmetrici, sia ad attacchi di esfiltrazione, in cui i più evoluti modelli di intelligenza artificiale in essi custoditi potrebbero essere rubati o sorvegliati, avverte il documento.
“Potreste ritrovarvi con decine di siti di data center che sono essenzialmente beni incagliati che non possono essere adattati al livello di sicurezza richiesto”, scrivono i fratelli Jeremie e Edouard Harris, autori del rapporto, secondo i quali anche i data center più avanzati attualmente in costruzione, tra cui il progetto Stargate di OpenAI, sarebbero vulnerabili agli stessi attacchi.
I fratelli Harris hanno fondato Gladstone AI, un’azienda che fornisce consulenza al governo degli Stati Uniti sulle implicazioni dell’IA per la sicurezza. Durante il periodo di ricerca, durato un anno, essi hanno visitato un centro dati gestito da una delle principali aziende tecnologiche statunitensi insieme a un team di ex forze speciali americane specializzate in cyber-spionaggio.
A rischio, sostengono i due, non sono solo i soldi delle aziende tecnologiche, ma anche la sicurezza nazionale degli Stati Uniti, nel contesto dell’intensificarsi della corsa geopolitica con la Cina per lo sviluppo di un’intelligenza artificiale avanzata.
La necessità di istituire un “Progetto Manhattan per l’intelligenza artificiale”
È per questo che negli ultimi tempi sono cresciute le richieste di un maggiore coinvolgimento del governo statunitense nel garantire la ricerca di frontiera sull’IA, fino ad arrivare a una raccomandazione formale della Commissione di revisione economica e di sicurezza USA-Cina (USCC) di istituire un “Progetto Manhattan per l’intelligenza artificiale”.
La prospettiva di un tale progetto per la superintelligenza è stata ampiamente discussa anche nella Silicon Valley, diventando di dominio pubblico quando l’ex ricercatore di OpenAI, Leopold Aschenbrenner, ha pubblicato il suo influente manifesto nel giugno 2024.
“Nel corso della storia abbiamo visto che i Paesi che per primi sfruttano periodi di rapidi cambiamenti tecnologici riescono spesso a provocare cambiamenti nell’equilibrio di potere globale”, ha detto Jacob Helberg, commissario dell’USCC e consulente senior del CEO della società di software Palantir.
Il Progetto Manhattan fu una collaborazione su larga scala tra il governo degli Stati Uniti e il settore privato durante la Seconda guerra mondiale che produsse le prime bombe atomiche.
Quello che si ipotizza per l’IA, invece, dovrebbe portare allo sviluppo di ciò che gli addetti ai lavori chiamano superintelligenza: una tecnologia di IA così potente da poter essere utilizzata per ottenere un vantaggio strategico decisivo sulla Cina.
Tutte le principali aziende di IA stanno cercando di sviluppare la superintelligenza artificiale (ASI) e negli ultimi anni sia gli Washington che Pechino si sono resi conto della sua potenziale importanza geopolitica, anche se non mancano critiche riguardo all’implementazione di tale forma di IA.
In particolare, è stato il recente rapporto “AI 2027” – redatto dall’ex ricercatore di OpenAI, Daniel Kokotajlo, dal noto blogger Scott Alexander e da Thomas Larsen, Eli Lifland e Romeo Dean e pubblicato dall’organizzazione no-profit AI Futures Project – ad aver delineato uno scenario ipotetico in cui l’ASI potrebbe (anche) distruggere l’umanità entro la fine del decennio.
Casi di hacking nei data center IA e vulnerabilità dei componenti
Parlando con funzionari della sicurezza nazionale e operatori di data center, gli autori del rapporto raccontano di aver appreso di un caso in cui il data center AI di una delle principali aziende tecnologiche statunitensi è stato attaccato e la proprietà intellettuale (PI) è stata rubata. Essi sono inoltre venuti a conoscenza di un altro caso in cui un datacenter simile è stato preso di mira in un attacco contro un componente specifico che, se fosse riuscito, avrebbe messo offline l’intera struttura per mesi.
Le parti chiave dei data center sono “made in China”
Molti componenti critici per i data center moderni sono costruiti principalmente o esclusivamente in Cina, sottolinea il rapporto.
Ciò significa che un attacco al componente critico può mettere offline un data center per mesi.
Alcuni di questi attacchi, sostiene il rapporto, possono essere asimmetrici. Un attacco in grado di distruggere un componente chiave di un’infrastruttura di data center hyperscaler potrebbe essere effettuato con meno di 20.000 dollari e, in caso di successo, potrebbe mettere offline un data center da 2 miliardi di dollari da un periodo compreso tra sei mesi e un anno.
Il rapporto sottolinea che la Cina probabilmente ritarderà la spedizione dei componenti necessari per riparare i data center resi offline da questi attacchi, soprattutto se considera che gli Stati Uniti sono sul punto di sviluppare una superintelligenza. “Dovremmo aspettarci che i tempi di consegna per generatori, trasformatori e altri componenti critici per data center di provenienza cinese inizieranno ad allungarsi misteriosamente, superando quelli attuali”, affermano i fratelli Harris.
“Questo sarà un segnale che la Cina sta silenziosamente dirottando i componenti verso le proprie strutture, poiché, dopotutto, controlla la base industriale che ne produce la maggior parte”.
Sicurezza insufficiente nei data center IA e urgenza d’azione
Anche se la situazione sta lentamente migliorando, il rapporto avverte che né i data center esistenti, né gli stessi laboratori di intelligenza artificiale sono sufficientemente sicuri da impedire che i modelli di intelligenza artificiale in essi custoditi vengano rubati dagli Stati ostili come la Cina.
“Secondo diversi ricercatori con cui abbiamo parlato, la sicurezza nei laboratori di intelligenza artificiale di frontiera è leggermente migliorata nell’ultimo anno, ma rimane del tutto inadeguata a resistere agli attacchi degli stati nazionali”, affermano gli autori. “Secondo ex addetti ai lavori, la scarsa sicurezza nei controlli in molti laboratori di intelligenza artificiale di frontiera deriva originariamente da un pregiudizio culturale che privilegia la velocità rispetto alla sicurezza”.
Il tempo stringe: le raccomandazioni degli esperti per la sicurezza dei data center IA
“Un progetto come questo [Progetto Manhattan] richiede la costruzione di un nuovo centro dati, la sicurezza deve essere integrata fin dall’inizio in un movimento offensivo di controspionaggio che interrompa progetti simili da parte degli avversari”. Man mano che si rendono disponibili nuove capacità che possono far guadagnare tempo all’America, queste devono essere inserite in modo rapido ed efficiente nelle attività offensive, “mentre l’intelligence che raccogliamo dagli avversari deve informare i tipi di capacità che cerchiamo di sviluppare in tempo reale”, aggiungono i due esperti.
La finestra per agire si sta chiudendo rapidamente, dunque.
Molti nella Silicon Valley ritengono che manchi meno di un anno a un’intelligenza artificiale in grado di automatizzare la maggior parte del lavoro di ingegneria del software. “Le nostre interviste con gli attuali e gli ex dipendenti dei laboratori di frontiera suggeriscono fortemente che questa convinzione è fondata e genuina. Se hanno ragione, gli autori avvertono che è necessario iniziare a costruire un centro dati AI completamente sicuro e su scala gigawatt entro pochi mesi, e capire come gestire gli imprevisti. “Non è detto che raggiungeremo presto la superintelligenza. Ma se ci riusciamo, e vogliamo evitare che la PCC la rubi o la paralizzi, dobbiamo iniziare a costruire le strutture sicure per essa già da ieri”.
Il rapporto offre raccomandazioni dettagliate, comprese azioni specifiche che l’America può intraprendere immediatamente, anche senza un progetto nazionale completo. L’attuazione di queste raccomandazioni sarà un compito arduo. Richiederà un coordinamento senza precedenti tra governo, industria e comunità della sicurezza nazionale. Sarà costoso, dirompente e politicamente difficile.” Ma l’alternativa – un mondo in cui il PCC costruisce per primo la superintelligenza o in cui non riusciamo a controllare efficacemente la nostra – è molto peggiore”.
