panopticon tecnologico

Intelligenza artificiale per la sorveglianza: la Cina corre avanti

Mentre monta lo scontro con gli Usa per il primato tecnologico, il Consiglio di Stato cinese guarda con interesse all’Intelligenza artificiale come strumento “insostituibile” per mantenere la stabilità sociale, la vera bussola del regime. Il Panopticon tecnologico, in Cina, è sempre più vicino

08 Ott 2020
Mario Dal Co

Economista e manager, già direttore dell’Agenzia per l’innovazione


Un conflitto di obiettivi è alla base del contraddittorio rapporto tra il governo cinese e internet: sviluppare la rete come strumento produttivo e di comunicazione dal governo verso la popolazione e al contempo impedire che essa diventi veicolo di comunicazione diretta tra i cittadini.

All’inizio erano le e-mail e i motori di ricerca ad essere banditi o fortemente controllati, in questo favorendo anche lo sviluppo di una offerta di servizi nazionali, più accondiscendenti e facili da controllare e sanzionare – Google provò a resistere con una versione censurata del motore di ricerca, ma poi abbandonò la presa – ora il terreno di conquista è l’intelligenza artificiale, utilizzata in primis per il controllo della popolazione attraverso il sistema del Credito Sociale, ma anche come perno per ottenere quel primato tecnologico al centro dello scontro con gli Usa di Donald Trump.

Il Panopticon high tech di Xi Jinpin

Se l’ascesa di Xi Jinpin segnava un aumento dei controlli sui movimenti dei cinesi, ed in particolare una riduzione della libertà di visite all’estero dei professori universitari, anche più decisa fu la nuova strategia verso la rete.

La rete si era estesa sotto i mandati dei due precedenti presidenti, all’insegna di una censura attiva, ma abbastanza inefficace; essa aveva dato la possibilità di avviare forme inedite di controllo e di contestazione delle autorità. Lo Scudo d’oro (prima versione del Great Firewall o Grande Muraglia) progettato da Fang Binxing alla fine degli anni ‘90 impediva l’accesso agli indirizzi IP e a domini considerati pericolosi e consentiva al governo l’ispezione dei dati inviarti e ricevuti. Con i VPN, tuttavia, i cinesi riuscivano ad aggirare la censura.

Nel 2009 Deng Yujiao, che faceva la pedicure in un Hotel dell’Hubei, aveva accoltellato con lo strumento del mestiere un funzionario di partito dopo che, al suo diniego di prestazioni sessuali a pagamento, aveva cercato di violentarla con l’aiuto di due suoi compari. La corte l’aveva condannata all’ospedale per malati di mente. Ma un blogger molto popolare, Wu Gan, usando la rete in modo collaborativo (flesh search), aveva scoperto come erano andate veramente le cose e aveva contribuito con una campagna molto seguita, alla revisione della condanna di Deng Yujiao. Alcune persone innocenti sono colpite, la privacy personale non è protetta, soprattutto quando le informazioni non sono corrette. Questo genere di cose accade solo nei paesi distorti. Poiché non esiste uno stato di diritto o una democrazia, Internet diventa l’unico mezzo di ricorrere per i cittadini” questo il commento di Wu Gan (Levine).

Questa rete diviene un punto essenziale della strategia di potere del nuovo Presidente: “Internet è diventato il principale campo di battaglia per la lotta dell’opinione pubblica” annuncia Xi Jinping nel 2013. “Dobbiamo rispettare il diritto dei singoli paesi di scegliere in modo indipendente il proprio percorso di cyber-sviluppo … contro le interferenze straniere negli affari interni di altri paesi”; questo diventa il messaggio di apertura della seconda conferenza internazionale su internet, tenutasi a Wuzhen nel 2015.

Gli obiettivi della strategia si precisano, mentre cadono le prime teste.

Il promotore delle prime conferenze internazionali su internet di Wuzhen nel 2014 e nel 2015, Lu Wei, era considerato nel 2015 una delle 100 personalità più influenti del mondo. Era “lo zar di internet” in Cina, l’uomo a cui Apple, Google, Facebook, Microsoft si rivolgevano per avere accesso all’immenso mercato cinese. Aveva fondato l’Ufficio Centrale per gli Affari Cyberspace, e la Cyberspace Administration cinese, organismo amministrativo e del Partito.

Ma Lu Wei viene allontanato dalle cariche da Xi Jinping nel 2016 e nel 2017 viene accusato di corruzione con addebiti pesantissimi: nel febbraio viene espulso dal Partito. “E’ senza vergogna”, “ha la doppia faccia” e, accusa più dura e più vera: “inganna il Comitato Centrale, sfida le regole, agisce in modo sfrenato, critica senza fondamento le politiche del Comitato Centrale e cerca di ostacolare le ispezioni disciplinari”. La condanna è “lieve”: 14 anni e la confisca totale dei beni perché si è dichiarato colpevole e non ha adito a ricorso.

Intanto prosegue la stretta sulla circolazione delle idee e sulla navigazione nella rete cinese. Nel 2015 i principali VPN con cui gli utenti cinesi – e gli stranieri in Cina – riuscivano ad aggirare la Grande Muraglia vengono bloccati. Nello stesso anno viene inaugurato il Grande Cannone con cui si attaccano i siti avversari per impedirne l’accesso. Le regole d’uso di internet, le sanzioni contro chi diffonde “notizie false” con pene fino a tre anni di reclusione, la persecuzione dei più seguiti web influencer, porta ad una caduta drammatica dei post su Weibo – il Facebook cinese.

Questo monitoraggio e controllo della rete ha un costo molto elevato, stimato a oltre 2 milioni di analisti impegnati anche nel produrre per il governo circa mezzo miliardo di post all’anno sui social network, secondo una ricerca di Harvard del 2016.

Ma la contraddizione è stridente: la Cina vuole affermarsi come potenza globale, leader nella tecnologia, ma al contempo punta ad una rete “separata” dal resto del mondo, in un dissimulato conflitto interiore tra autoritarismo e libera circolazione delle idee.

Per usare le parole di un biologo cinese, diffuse sui social dopo la chiusura dei VPN:

WEBINAR - 3 NOVEMBRE
CISO as a Service: perché la tua azienda ha bisogno di un esperto di Cyber Security?
Sicurezza
Cybersecurity

“se un paese vuole questo, allora molti scienziati perderanno tempo a scavalcare la Grande Muraglia e a installare e aggiornare ogni sorta di software per i router, computer, tablet e apparecchi mobili, senza preoccuparsi che questo comportamento sperperi un enorme ammontare di tempo; e tutto ciò è assolutamente ridicolo” (Elizabeth C. Economy).

Intelligenza artificiale e sorveglianza sociale

Mentre la Cina rafforza il suo impegno nell’uso sistematico dell’intelligenza artificiale per controllare i propri cittadini (Artificial Intelligence Surveillance System-AISS) e non solo, dall’altra parte del Pacifico, Trump è impegnato a testa bassa in una confusa rissa con Pechino, che crede efficace nel riaffermare la supremazia americana, ma che, come abbiamo visto in altri commenti pubblicati su questa rivista, sortiranno come effetto una ulteriore spinta alla balcanizzazione del web.

La Cina esporta AISS in oltre sessanta paesi (Ding), fornendo non solo il sistema di intelligenza artificiale, ma anche le videocamere, necessarie per smantellare l’opposizione, monitorare l’estremismo e creare l’infrastruttura necessaria alla sorveglianza civile e politica (Sharma). Questa tendenza si è rafforzata con il Covid-19 non solo nell’Asia orientale. La strategia delle infrastrutture mondiali che rientra nella alleanza One Road One Belt (la nuova via della seta), è perfettamente funzionale a questo disegno neo-coloniale.

Lo sviluppo dell’intelligenza artificiale è funzionale al completamento del sistema del Credito Sociale, quello che secondo alcuni osservatori è il Grande Fratello in fase di sviluppo da parte del governo di Pechino.

Di nuovo, Xi Jinping ha ereditato un progetto pensato inizialmente in ambito finanziario per accrescere la fiducia nelle transazioni economiche, dato che nel Paese il problema della affidabilità nelle forniture e nei pagamenti è sempre stato molto rilevante, come ben sanno le imprese straniere che operano in Cina. La sua strategia è ora quella di implementare il sistema a passi rapidi: secondo la Banca Centrale cinese il sistema del Credito Sociale ha già investito oltre un miliardo di persone e quasi 30 milioni di imprese e organizzazioni a fine del 2019.

Le sanzioni, ossia la perdita di credito dovuta all’inserimento nella lista nera, riguardano oltre 2 milioni e mezzo di persone, a cui viene impedito di prendere i treni ad alta velocità e i voli o che, nei casi più gravi (circa 300.000 persone) vengono perseguiti dal sistema giudiziario (Amanda Lee).

Per capire lo stato dell’arte del confronto USA-Cina sull’intelligenza artificiale, è utile il confronto di alcuni indicatori del posizionamento dei due paesi (vedi tabella che segue). In generale gli Stati Uniti sono più avanti, ma due indicatori inducono a riflettere sulla possibile evoluzione futura: la quota di finanziamenti alle start up dedicate all’IA e la dimensione dei dati a cui accedere (sia in termini di numero di terminali, sia in termini di accessibilità dei dati personali (mancanza di protezione della privacy). Mediamente la Cina era a metà strada (i dati sono rilevati 3-5 anni fa), rispetto agli Stati Uniti, ma nel frattempo il suo passo è accelerato: in particolare la pandemia rappresenta un punto di svolta negli investimenti in IA.

Principali fattori di traino dell’Intelligenza Artificiale
Fattore di trainoMisura proxyCinaUSA
HardwareQuota di mercato dei semiconduttori

% su tot. Mondo (2015)

4%50%
Finanziamenti ai produttori di FPGA*

(% su tot. Mondo) (2017)

34,4 mill. $

(7,6%)

192,5 mill. $

(42,4%)

DatiUtenti mobile

(% su tot. Mondo)

(2016)

1,4 miliardi

(20%)

416,7 mill.

(5,5%)

Ricerca e AlgoritmiN. esperti IA

(% su tot. mondo)

39.200

(13,1%)

78.700

(26,2%)

% di presentazioni alle conferenze di IA su tot. mondo (2015)20,5%48,4%
Settore commerciale IAProporzione delle aziende IA su totale mondo (2017)23%42%
Investimenti totali nelle aziende IA

(% su tot. mondo) (2012-2016)

2,6 mld. $

(6,6%)

172 miliardi $

(38%)

Finanziamento complessivo alle start up di IA

% su tot. mondo (2017)

48%38%
VALORE MEDIO delle proxy1733

Conclusioni

L’atteggiamento del governo cinese verso i temi etici dell’IA è vago: vengono annunciate norme sull’IA da varare entro il 2025 per gli aspetti etici e per l’assessment della sicurezza e del controllo delle capacità di utilizzo, rinviando addirittura al 2030 la creazione di un ambiente di IA ordinato e controllato in modo esteso. Intanto, il Consiglio di Stato cinese guarda con interesse all’IA come strumento “insostituibile” per mantenere la stabilità sociale, la vera bussola del regime (Hoffman).

Vi sono timidi segnali che le istituzioni accademiche cinesi pongono attenzione ai temi posti nella conferenza del 2017 di Asilomar, sugli effetti dell’IA e sui 23 principi concordati nell’ambito di quell’incontro (Future Life Institute).

Ma la strategia di Xi Jinping incalza.

Un primo obiettivo è il primato tecnologico della Cina, con vincoli alle aziende estere che operano in Cina, tenute ad adeguarsi agli standard politici, oltre che tecnici, del governo, con un protezionismo destinato a sviluppare i campioni nazionali, utili sia per accrescere le capacità tecnologiche, sia per rendere meno vulnerabile la rete cinese, sia per ridurre i rischi di aggirare la censura.

Un secondo obiettivo è bloccare il Web 2.0, per evitare che i contenuti circolino liberamente in Cina: con il blocco da parte del governo tutti i servizi vengono copiati in cinese e controllati. Google=Baidu, Twitter=Weibo, Facebook=Renren, Youtube=Youkou e Tudou. L’obiettivo di promuovere la tecnologia cinese si salda con quello dell’isolamento della Cina dalla rete aperta.

Il terzo è quello di sviluppare un sistema di controllo individuale esteso, dotato di sanzioni e premi, che disincentivi qualsiasi allontanamento dagli standard politico sociali adottati dal Partito.

Il Panopticon tecnologico è sempre più vicino.

________________________________________

Bibliografia

Jeffrey Ding, Deciphering China’s AI Dream: The Context, Components, Capabilities and Consequences of China’s Strategy to Lead the World in AI, University of Oxford, March 2018.

Elizabeth C Economy, The great firewall of China: Xi Jinping’s internet shutdown, The Guardian, June 29 2018.

Future Life Institute, futureoflife.org/ai-principles/

Samantha Hoffman, Programming China: The Communist Party’s autonomic approach to managing state security, MERICS China Monitor, December 12, 2017.

Amanda Lee, What is China’s social credit system and why is it controversial?, South China Morning Post, August 9, 2020.

J. Levine, What Is a ‘Human Flesh Search,’ and How Is It Changing China? The Atlantic, October 5, 2012

Ishan Sharma, China’s Neocolonialism in the Polytical Economy of A. I. Surveillance, The Cornell International Affairs review, Spring 2020.

WHITEPAPER
Come semplificare il sistema di gestione delle identità digitali?
Sicurezza
IAM

@RIPRODUZIONE RISERVATA

Articolo 1 di 4