Un’azienda cinese sta sviluppando una tecnologia basata sull’intelligenza artificiale che non si limita a sorvegliare i dissidenti, ma ambisce a prevedere chi potrebbe diventarlo in futuro. Lo rivela un’inchiesta del New York Times, basata sulle analisi condotte da ricercatori della Vanderbilt University su un archivio di 100.000 documenti interni trapelati dall’azienda, Geedge Networks. Il lavoro, ancora in fase di ricerca, delinea uno scenario in cui uno Stato autoritario potrebbe agire contro i propri cittadini prima ancora che questi esprimano qualsiasi forma di dissenso pubblico.
I ricercatori di Vanderbilt, guidati da Brett J. Goldstein del Wicked Problems Lab e dal politologo Brett V. Benson, hanno ricostruito come Geedge, in collaborazione con il laboratorio di ricerca MESA Lab della Chinese Academy of Sciences, stesse sviluppando strumenti capaci di generare profili dei cittadini cinesi e di utilizzare modelli di intelligenza artificiale per identificare chi potrebbe rappresentare un rischio politico. I documenti analizzati mostrano riunioni interne, risalenti ai primi mesi del 2024, in cui i ricercatori discutevano esplicitamente di come costruire profili individuali per identificare intenzioni e individuare informazioni dannose, l’eufemismo ricorrente con cui l’apparato cinese designa il dissenso politico.
Indice degli argomenti
Chi è Geedge Networks
Geedge Networks non è una startup qualsiasi. Fondata nel 2018 nell’Hainan Free Trade Port con un centro di ricerca e sviluppo a Pechino, l’azienda è stata creata da Fang Binxing, ex rettore della Beijing University of Posts and Telecommunications e figura universalmente riconosciuta come uno degli architetti del Great Firewall, il sistema di censura e sorveglianza con cui la Cina controlla l’attività online della propria popolazione. Il legame con il MESA Lab, acronimo di Massive and Effective Stream Analysis, un laboratorio dell’Institute of Information Engineering della Chinese Academy of Sciences, colloca Geedge in una zona grigia tra impresa privata, ricerca accademica e apparato di sicurezza statale.
Un’indagine congiunta condotta nel 2025 da un consorzio di media e organizzazioni per i diritti umani, tra cui InterSecLab, Amnesty International, Justice For Myanmar e il Tor Project, ha esaminato per quasi un anno i 100.000 documenti trapelati nel 2024, rivelando che Geedge ha esportato il proprio toolkit di censura e sorveglianza a regimi autoritari in almeno quattro Paesi: Kazakistan, Etiopia, Myanmar e Pakistan, con almeno un ulteriore cliente non identificato.
Dal Great Firewall al toolkit di sorveglianza esportato
L’architettura tecnica è articolata e modulare. Al centro c’è il Tiangou Secure Gateway (TSG), un dispositivo che opera online, direttamente nel percorso dei dati, presso i data center degli operatori di telecomunicazione nazionali. Questa collocazione garantisce agli operatori visibilità completa e capacità di intervento in tempo reale su tutto il traffico internet di un Paese, fino al livello del singolo utente: applicazione di regole individuali, monitoraggio di ogni attività, cattura di contenuti in chiaro. Il sistema è affiancato da Cyber Narrator, una piattaforma di analisi del traffico e profilazione comportamentale, e da TSG Galaxy, il modulo di data warehousing che consente interrogazioni analitiche su grandi volumi di dati intercettati.
Il banco di prova domestico di questa architettura è stato lo Xinjiang. Secondo i documenti analizzati, Geedge ha condotto un’operazione speciale nella regione a partire dal 2022, in collaborazione con il MESA Lab e le autorità locali. La funzionalità più significativa testata in quel contesto è proprio Cyber Narrator, configurato per analizzare il comportamento degli utenti internet, i loro pattern di vita e le loro relazioni. In concreto, il sistema è in grado di generare grafi relazionali basati sui contatti di una persona, sui gruppi online a cui appartiene e sui dati delle applicazioni e dei siti che frequenta. Include anche un sistema di allerta che si attiva quando un individuo monitorato entra in un’area designata, cambia scheda SIM, effettua una chiamata internazionale o utilizza strumenti per aggirare la censura. Come ha osservato il Georgetown Security Studies Review, la decentralizzazione della censura cinese, con firewall provinciali autonomi nello Xinjiang, nel Jiangsu e nel Fujian, anziché il solo firewall nazionale centralizzato, rappresenta un’evoluzione del modello di controllo che consente sperimentazione locale e sorveglianza adattiva. Questa architettura modulare Geedge la replica per i clienti stranieri.
Il vincolo dei chip e la questione dei controlli sulle esportazioni
Uno degli aspetti più rilevanti emersi dai documenti riguarda i limiti tecnologici. I ricercatori di Vanderbilt hanno evidenziato che nel 2024, quando erano in vigore i controlli sulle esportazioni imposti dall’amministrazione Biden sui chip progettati negli Stati Uniti, Geedge e il suo laboratorio faticavano a reperire sufficiente potenza di calcolo per le funzionalità più avanzate. I documenti fanno esplicito riferimento a limitazioni sulle GPU, i processori grafici che alimentano i modelli di intelligenza artificiale e mostrano che l’azienda è stata costretta a ripiegare su modelli e chip meno potenti e meno recenti.
Secondo fonti governative statunitensi citate dal New York Times, Geedge dispone oggi di risorse di calcolo sufficienti per i prodotti attualmente in commercio. Per realizzare la versione più ambiziosa della tecnologia predittiva, in particolare l’integrazione di telefonate intercettate e flussi video di sorveglianza nell’analisi comportamentale, l’azienda avrebbe bisogno di chip più avanzati di quelli attualmente accessibili in Cina. Ex funzionari dell’amministrazione Biden hanno sostenuto che le restrizioni sui chip di fascia alta progettati da Nvidia avevano effettivamente contribuito a mantenere il vantaggio tecnologico statunitense nell’AI e a rallentare lo sviluppo della tecnologia di sorveglianza cinese.
Ma il quadro è in evoluzione. L’amministrazione Trump ha indebolito parte dei controlli dell’era Biden, pur mantenendo restrizioni sui processori più avanzati. Durante la recente visita del presidente Trump a Pechino, funzionari statunitensi hanno dichiarato che la Cina avrebbe accesso a versioni più avanzate dei chip Nvidia. Parallelamente, la Cina sta accelerando gli sforzi per svincolare le proprie aziende di intelligenza artificiale dalla dipendenza dai chip statunitensi, con l’obiettivo dichiarato di rendere i controlli sulle esportazioni irrilevanti nel medio termine.
La posta in gioco è significativa. Come ha osservato Jimmy Goodrich dell’Institute on Global Conflict and Cooperation dell’Università della California, i servizi di sicurezza cinesi si trovano di fronte a un sovraccarico informativo: troppi dati, troppi segnali da analizzare simultaneamente. L’intelligenza artificiale serve proprio a fare triage su scala, selezionare, classificare, prioritizzare, ma la capacità di scalare questa funzione dipende direttamente dall’accesso alla potenza di calcolo. Questo che rende i controlli sulle esportazioni strategicamente rilevanti.
Dal contenuto alla persona: una traiettoria coerente
I documenti su Geedge non emergono in un vuoto. Si inseriscono in una traiettoria di sofisticazione progressiva del controllo digitale cinese che è possibile ricostruire attraverso i fatti emersi negli ultimi mesi.
Come abbiamo documentato in una precedente analisi https://www.agendadigitale.eu/cultura-digitale/censura-potenziata-dallai-cosi-la-cina-soffoca-il-dissenso/, il passaggio chiave degli ultimi anni è stato l’evoluzione dalla censura reattiva, basata su blacklist e filtri a parola chiave, a un sistema predittivo e proattivo alimentato da modelli linguistici di grandi dimensioni. Un dataset trapelato da 300 GB, contenente 133.000 esempi di contenuti che i modelli devono imparare a riconoscere e censurare, ha rivelato un’infrastruttura capace di identificare non solo parole vietate, ma sfumature linguistiche, ironie, metafore e analogie storiche usate come critica indiretta al potere. La censura non è più solo un filtro, è un sistema che comprende il contesto, classifica le intenzioni e segnala prima che un contenuto diventi virale.
A un livello superiore la strategia cinese tratta l’intelligenza artificiale come un’infrastruttura cognitiva e produttiva dello Stato, non come un settore da regolare ex post. Dataset filtrati per contenuti politicamente sensibili, test ideologici prima del rilascio dei modelli, tracciabilità obbligatoria dei contenuti generati, identificazione degli utenti senza anonimato: un modello di governance che punta a controllare gli effetti sistemici dell’IA prima che diventino incontrollabili.
Geedge rappresenta il terzo livello di questa architettura. I primi due operano sul piano dei contenuti, cosa viene detto e come, e su quello dei modelli, quali risposte l’AI può e non può generare. Geedge aggiunge il piano delle persone: chi dice cosa, dove si trova, con chi comunica, quali pattern di comportamento esibisce. Con la componente predittiva in fase di sviluppo, l’ambizione dichiarata nei documenti interni è compiere un ulteriore salto: dal monitoraggio di ciò che le persone fanno alla previsione di ciò che potrebbero fare.
L’angolo europeo: complici inconsapevoli?
Un aspetto che le inchieste sui documenti Geedge hanno portato alla luce, e che merita attenzione specifica in una prospettiva europea, riguarda la catena di fornitura. L’indagine del consorzio IJ4EU ha rivelato che Geedge ha utilizzato Sentinel HASP, un’applicazione di protezione delle licenze software sviluppata da una sussidiaria del gruppo francese Thales, per monetizzare i propri prodotti e gestire l’accesso dei clienti. Thales ha precisato che il software di Geedge può funzionare senza il proprio prodotto e che questo non ha alcun ruolo nelle funzioni di sorveglianza. L’indagine ha inoltre rivelato che Geedge utilizzava un server in Germania per distribuire i pacchetti di installazione ai clienti di tutto il mondo. Il Ministero tedesco per gli Affari Digitali non ha risposto alle richieste di commento.
Sono dettagli che, presi singolarmente, possono apparire marginali ma compongono un quadro più ampio: componenti tecnologiche europee, software e infrastruttura, risultano inserite nella catena di fornitura di un sistema che viene utilizzato per la sorveglianza di massa e la censura in Paesi dove i diritti fondamentali sono sistematicamente violati. InterSecLab ha sottolineato la necessità di trasparenza e accountability da parte delle aziende occidentali riguardo al proprio coinvolgimento in attività che violano i diritti umani.
Il punto è tanto più rilevante alla luce del silenzio politico. Come ha osservato Michael Sobolik dell’Hudson Institute, l’amministrazione Trump si è sostanzialmente astenuta dal commentare i leak di Geedge, nonostante la gravità di quanto emerso. L’Europa, che pure ha costruito con l’AI Act il quadro normativo più ambizioso al mondo sull’intelligenza artificiale, non ha ancora affrontato in modo strutturale la questione della responsabilità delle proprie aziende quando le loro tecnologie finiscono, direttamente o indirettamente, al servizio di infrastrutture autoritarie.
La lezione geopolitica
La vicenda Geedge rende concreto uno scenario che fino a poco tempo fa apparteneva alla fantascienza. Appresa la notizia la prima cosa che ci è venuta in mente è stata il film Minority Report di Steven Spielberg, dove un’unità di polizia arresta le persone prima che commettano un crimine sulla base delle visioni di esseri dotati di capacità paranormali. La differenza è però sostanziale: i precog del film erano soggetti fallibili con il sistema costruito con la fabbricazione del consenso tra le loro visioni. Un modello di intelligenza artificiale che pretende di prevedere il dissenso futuro sulla base di pattern comportamentali si presenta invece come oggettivo, scalabile, replicabile. Non c’è un rapporto di minoranza da contestare, c’è una black box statistica che produce punteggi di rischio su milioni di persone simultaneamente.
Soprattutto, a differenza del film, il prodotto è esportabile. Geedge non è solo sorveglianza interna cinese, è un modello di governance autoritaria digitale chiavi in mano, già venduto a Paesi che non hanno né la base tecnologica per svilupparlo autonomamente né i contrappesi istituzionali per limitarlo. La competizione globale sull’intelligenza artificiale non si gioca solo nei laboratori o nei data center, si gioca sulle visioni di società che ogni sistema politico incorpora, consapevolmente o meno, nei propri algoritmi. L’AI non è solo una tecnologia, è un fattore di potere. Chi la sviluppa decide quali rischi accettare, quali comportamenti tollerare e quali narrazioni rendere possibili. Chi la esporta, decide anche per altri.
Partecipa alla community