C’è un momento preciso in cui la tecnologia smette di essere un semplice strumento di supporto e si trasforma in un’infrastruttura invisibile capace di modellare il comportamento e le libertà umane. Quel momento si sta consumando oggi nelle città cinesi, dove l’architettura della sicurezza pubblica vive una mutazione non solo tecnica, ma profondamente epistemologica.
La videosorveglianza tradizionale, intesa come occhio elettronico che registra passivamente la realtà per ricostruzioni a posteriori, appartiene al passato. Al suo posto emerge una rete di sorveglianza predittiva che sfrutta l’intelligenza artificiale generativa e i modelli multimodali per anticipare le intenzioni, classificare i comportamenti sociali e neutralizzare il rischio prima che si traduca in un’azione concreta.
Un’inchiesta del Financial Times ha svelato come i contratti di appalto pubblico stipulati dalle autorità cinesi con giganti come Hikvision e Huawei riguardino ormai piattaforme di comando integrate guidate da modelli linguistici avanzati. Questa accelerazione interroga brutalmente le fondamenta del diritto europeo. Mentre Pechino normalizza l’automazione del sospetto in nome della stabilità sociale, l’Unione Europea erige una trincea giuridica tramite l’AI Act e il GDPR per salvaguardare lo spazio pubblico come luogo di libertà individuale, ponendo limiti invalicabili alla capacità degli algoritmi di profilare e giudicare i cittadini.
Indice degli argomenti
Dalla registrazione visiva all’ermeneutica algoritmica: il nuovo volto della computer vision
La transizione tecnologica supera i limiti storici dei sistemi di monitoraggio di prima generazione. Fino a pochi anni fa, l’enorme mole di dati video si scontrava con l’impossibilità dei software di comprendere il contesto delle immagini senza un faticoso filtro umano. Oggi, l’introduzione dei modelli linguistici di grandi dimensioni e la convergenza con la computer vision avanzata consentono alle macchine una vera attività interpretativa sui flussi video in tempo reale. I sistemi acquistati dalle amministrazioni cinesi effettuano ricerche semantiche negli archivi tramite linguaggio naturale: un operatore può digitare comandi flessibili per rintracciare istantaneamente un soggetto in base a descrizioni vaghe o combinazioni di indumenti, riducendo a pochi secondi un lavoro che prima richiedeva intere giornate.
Questo salto qualitativo permette ai software di mappare e codificare i comportamenti anomali nel tessuto urbano. Le piattaforme analizzano la velocità dei passanti, le traiettorie dei veicoli e i tempi di stazionamento per generare alert automatici inviati alle pattuglie sul territorio. I documenti di procurement rivelano che i sistemi sono addestrati per riconoscere pattern predittivi associati ad assembramenti improvvisi, guide erratiche o dinamiche interpretate come indicatori di potenziali disordini o gesti autolesionistici. La mediazione umana viene così posticipata alla fase finale della catena di comando, lasciando che sia la macchina a stabilire quando una condotta esca dalla normalità statistica per entrare nel perimetro della minaccia.
L’illusione dell’oggettività matematica e la dottrina della stabilità sociale
Il pilastro della polizia predittiva poggia sull’assunto che l’applicazione dell’analisi statistica ai dati storici consenta di prevedere i reati con un margine di errore minimo. Tuttavia, il dibattito giuridico globale ha ampiamente dimostrato come questa pretesa di neutralità scientifica sia un’illusione pericolosa, poiché gli algoritmi ereditano e amplificano i pregiudizi strutturali dei dataset utilizzati per il loro addestramento. Se i dati di partenza riflettono pratiche di controllo storicamente concentrate su determinate aree o categorie di soggetti, l’IA si limiterà a convalidare e perpetuare tali distorsioni, creando un cortocircuito logico in cui la polizia viene inviata nei medesimi luoghi proprio perché il sistema prevede che lì si concentrerà il rischio, alimentando una profezia che si autoavvera.
Nel modello di governance cinese, questa dinamica assume una valenza politica profonda, inserendosi nella strategia del controllo della stabilità sociale. All’interno di un sistema istituzionale centralizzato e privo di un sindacato giurisdizionale indipendente a tutela dei diritti individuali, il confine tra la prevenzione dei reati comuni e il monitoraggio preventivo del dissenso politico diventa strutturalmente poroso. I software di nuova generazione non si limitano a tracciare la criminalità, ma sono progettati per mappare la devianza ideologica e comportamentale, trasformando la polizia predittiva in uno strumento di ingegneria sociale capace di esercitare una pressione conformistica invisibile sulla totalità della popolazione.
Il laboratorio dello Xinjiang come precedente per la sorveglianza di massa
Le preoccupazioni delle democrazie occidentali rispetto alla metamorfosi digitale cinese si basano sui precedenti drammatici che hanno caratterizzato lo Xinjiang. Per oltre un decennio, il territorio abitato dalla minoranza uigura è stato utilizzato dalle autorità come un immenso campo di prova per la sperimentazione delle tecnologie di sorveglianza più estreme, dove la raccolta sistematica di dati biometrici, l’analisi automatizzata delle comunicazioni e il tracciamento dei movimenti sono stati integrati nella piattaforma di comando nota come IJOP. Quel sistema segnalava come anomalie meritevoli di investigazione o detenzione preventiva comportamenti ordinari come il consumo insolito di energia elettrica, l’interruzione dell’uso dello smartphone o la frequentazione non abituale di determinati vicinati.
L’aspetto politicamente più rilevante dell’attuale fase di modernizzazione risiede nel fatto che le metodologie collaudate nello Xinjiang sono state raffinate e ingegnerizzate tramite l’uso dell’IA generativa per essere esportate e normalizzate nelle grandi metropoli dell’est della Cina. Non siamo più di fronte a un regime eccezionale applicato a una minoranza etnica confinata, bensì alla diffusione di un modello ordinario di gestione urbana applicato a centinaia di milioni di cittadini. La sorveglianza smette di essere uno strumento investigativo attivato dal sospetto per diventare la condizione ordinaria di esistenza all’interno dello spazio pubblico, dove ogni individuo viene costantemente scansionato e valutato in base alla probabilità statistica delle sue intenzioni future.
L’architettura del rischio dell’AI Act: i divieti europei sulla polizia predittiva
Di fronte all’avanzata di modelli di controllo sociale guidati dagli algoritmi, l’Unione Europea ha scelto di delineare una risposta regolatoria fondata sulla centralità della persona e sulla tutela dello Stato di diritto. Il baricentro di questa strategia è l’AI Act, il regolamento europeo sull’intelligenza artificiale che introduce una severa classificazione dei sistemi in base al rischio per i diritti fondamentali, stabilendo divieti assoluti per le applicazioni ritenute incompatibili con i valori democratici. L’articolo 5 del regolamento interviene con precisione chirurgica sul tema della polizia predittiva, vietando tassativamente l’uso di sistemi di IA destinati a effettuare valutazioni del rischio per determinare se una persona fisica commetterà un reato, qualora tale valutazione si basi esclusivamente sulla profilazione delle sue caratteristiche o sui comportamenti passati.
Il legislatore europeo ha riconosciuto che consentire giudizi di pericolosità sociale automatizzati basati sulla probabilità statistica avrebbe scardinato i principi costituzionali della presunzione di innocenza e della materialità del reato, secondo cui un individuo può essere perseguito solo per fatti materiali specifici e non per presunte inclinazioni desunte da un calcolo algoritmico. Parallelamente, l’AI Act proibisce l’uso di sistemi di identificazione biometrica remota in tempo reale negli spazi accessibili al pubblico da parte delle forze dell’ordine, introducendo eccezioni rigidissime e circoscritte a situazioni di estrema gravità, come minacce terroristiche imminenti. Anche in questi scenari eccezionali, la norma impone l’obbligo di un’autorizzazione giurisdizionale preventiva, strutturando un sistema di pesi e contrappesi giuridici radicalmente opposto all’automatismo cinese.
Il presidio del GDPR e lo scudo della Direttiva Law Enforcement
La tenuta del modello europeo non si esaurisce nell’AI Act, ma trova continuità nel sistema di protezione dei dati personali delineato dal GDPR e dalla Direttiva Law Enforcement (Direttiva UE 2016/680), dedicata ai trattamenti effettuati dalle autorità per finalità di prevenzione e repressione dei reati. Questo blocco normativo impone che qualunque trattamento di dati, inclusi quelli biometrici e comportamentali raccolti tramite telecamere intelligenti, avvenga nel rigoroso rispetto dei principi di liceità, finalità e minimizzazione. La prassi cinese della raccolta indiscriminata e della conservazione indefinita dei flussi video urbani si scontra frontalmente con il diritto europeo, che esige un legame preciso e documentato tra la raccolta del dato e una specifica e attuale esigenza investigativa.
Un ruolo cruciale a salvaguardia della dignità del cittadino è svolto dalle tutele contro le decisioni interamente automatizzate. L’ordinamento europeo sancisce il diritto di non essere sottoposto a provvedimenti che producano effetti giuridici significativi sulla propria persona qualora basati esclusivamente sull’elaborazione di un algoritmo. Nel momento in cui una piattaforma integrata segnala un cittadino, definendolo come soggetto pericoloso o anomalo, tale output non può tradursi in una sanzione o in un fermo senza che vi sia stata un’effettiva, critica e autonoma valutazione da parte di un funzionario umano. Questo sbarramento impedisce che la complessità opaca del deep learning diventi una scusa per legittimare l’arbitrio del potere amministrativo, garantendo che il cittadino possa sempre conoscere e contestare i motivi alla base di un controllo.
Il rischio di slittamento funzionale nelle smart city europee
Nonostante la solidità teorica dell’impianto normativo comunitario, l’Europa non può considerarsi del tutto al sicuro dalle derive tecnologiche che stanno trasformando la sorveglianza in Asia. Il terreno più vulnerabile è rappresentato dallo sviluppo delle smart city, all’interno delle quali le amministrazioni comunali stanno progressivamente installando sensori IoT, telecamere intelligenti per il traffico e reti di monitoraggio ambientale. Si tratta di progetti nati con finalità civili del tutto legittime e orientati a migliorare la qualità della vita urbana, che tuttavia condividono la medesima infrastruttura tecnologica necessaria per scopi di controllo sociale.
Il pericolo principale in questo contesto è rappresentato dal fenomeno del function creep, ovvero la progressiva e strisciante deviazione del sistema dalle sue finalità originarie verso scopi di sorveglianza securitaria non dichiarati. Una rete di telecamere installata per monitorare gli accessi alle zone a traffico limitato o per analizzare i flussi pedonali può essere convertita, tramite un semplice aggiornamento software o l’attivazione di un plug-in di intelligenza artificiale, in uno strumento di tracciamento dei comportamenti o di rilevamento di assembramenti sospetti. La sfida per i giuristi e i Garanti della privacy consiste nel vigilare affinché le esigenze della gestione tecnologica della città non diventino un cavallo di Troia per aggirare i divieti dell’AI Act, ricordando che la disponibilità tecnica di un dato non ne legittima automaticamente l’utilizzo da parte dell’apparato statale o locale.
L’epistemologia del sospetto probabilistico e l’effetto di congelamento delle libertà
L’adozione della polizia predittiva produce una profonda trasformazione nel modo in cui lo Stato e i cittadini intendono il concetto stesso di sospetto, alterando l’equilibrio psicologico e democratico. Nello Stato di diritto, il sospetto è un concetto circostanziato, legato a elementi indiziari precisi che collegano una persona a un’azione illegale commessa nel mondo reale. Con la sorveglianza anticipatoria assistiamo alla nascita del sospetto probabilistico, in cui l’individuo non viene attenzionato per ciò che ha fatto, ma per la sua vicinanza a una deviazione standard calcolata dalla macchina. Il cittadino cessa di essere un soggetto autonomo protetto dalla presunzione di innocenza e diventa un nodo informativo costantemente esaminato e valutato da un sistema che cerca accenni di anomalie nel suo comportamento.
Questa condizione di monitoraggio permanente produce quello che la dottrina definisce chilling effect, ovvero l’effetto di congelamento o di inibizione nell’esercizio dei diritti fondamentali. Quando le persone sono consapevoli che ogni loro movimento, sosta o interazione sociale viene registrata, decodificata e inserita in un database in grado di generare profili di rischio, esse tenderanno spontaneamente a modificare la propria condotta per uniformarsi a ciò che l’algoritmo considera normale. Si smetterà di partecipare a manifestazioni pacifiche, si eviterà di frequentare determinati quartieri o persone considerate problematiche e si rinuncerà a forme di espressione del dissenso, per il timore di vedere peggiorato il proprio punteggio di affidabilità o di attivare un alert di polizia. Lo spazio pubblico si trasforma così in un ambiente sterilizzato, dove la pace sociale viene ottenuta attraverso l’omologazione preventiva dei comportamenti.
La vera natura del potere digitale non risiede nella capacità di punire le trasgressioni, ma nella possibilità tecnica di rendere la trasgressione strutturalmente impossibile o statisticamente irrilevante attraverso il controllo preventivo dell’ambiente urbano.
Sovranità tecnologica e geopolitica degli standard normativi
La competizione tra il modello di sorveglianza dirigista cinese e il sistema di tutele antropocentrico europeo svela una dimensione geopolitica profonda, incentrata sul concetto di autonomia strategica dell’Unione Europea. Come emerge con chiarezza dall’inchiesta del Financial Times, la forza del panopticon digitale di Pechino risiede nell’integrazione simbiotica tra le decisioni politiche dello Stato centrale e le capacità industriali delle sue aziende leader, capaci di controllare l’intera filiera tecnologica, dalla produzione dei microchip dedicati all’edge computing fino allo sviluppo degli algoritmi di intelligenza artificiale generativa. Questo consente alla Cina non solo di implementare tali sistemi nei propri confini, ma di esportarli in tutto il mondo, promuovendo i propri standard di governance autoritaria attraverso i progetti della Via della Seta Digitale.
L’Europa si trova in una posizione di strutturale debolezza industriale, costretta a importare gran parte dell’hardware di sorveglianza e a fare affidamento sulle infrastrutture cloud di grandi fornitori esteri. Per questo motivo, la battaglia per la difesa dei diritti fondamentali non può limitarsi alla sola produzione di norme giuridiche avanzate, pur necessarie come l’AI Act, ma deve tradursi nella costruzione di una reale sovranità tecnologica. Se l’Unione Europea non sarà in grado di sviluppare e sostenere una propria filiera industriale etica nel campo dell’intelligenza artificiale e della sicurezza urbana, il rischio concreto sarà quello di subire una colonizzazione tecnologica, trovandosi costretta a importare strumenti che incorporano logiche di funzionamento incompatibili con la Carta dei diritti fondamentali, svuotando di fatto la portata protettiva delle nostre leggi.
Chi custodisce i custodi algoritmici?
La metamorfosi algoritmica del sospetto ci conduce inevitabilmente di fronte all’interrogativo più antico e urgente della filosofia del diritto: chi esercita il controllo su coloro che gestiscono gli strumenti di controllo? Quando la definizione di ciò che costituisce un comportamento anomalo, una minaccia alla sicurezza o un potenziale rischio sociale viene delegata a un sistema di intelligenza artificiale, la trasparenza e la responsabilità dei processi decisionali rischiano di dissolversi all’interno dell’opacità tecnica dei modelli di deep learning (black box). La natura stessa di questi software rende impossibile per un cittadino, ma spesso anche per gli stessi operatori di polizia, comprendere l’esatto percorso logico e probabilistico che ha portato la macchina a generare un determinato alert.
Nelle democrazie liberali, l’azione delle forze dell’ordine trova la sua legittimità nella sua visibilità e nella sua sottoposizione al controllo della magistratura ordinaria, la quale deve poter verificare la fondatezza legale di ogni limitazione della libertà personale. Se l’attività investigativa si rifugia dietro lo schermo impenetrabile di un algoritmo protetto da segreto commerciale o da esigenze di sicurezza nazionale, il diritto alla difesa del cittadino viene irrimediabilmente compromesso. L’Europa, attraverso i requisiti di tracciabilità, i registri delle attività e gli obblighi di audit indipendente previsti dall’AI Act per i sistemi ad alto rischio, sta provando a tracciare una via basata sulla trasparenza e sulla responsabilità algoritmica. La sfida che ci attende rappresenta un banco di prova decisivo per la sopravvivenza delle istituzioni democratiche: spetta al diritto e alla politica stabilire i confini della tecnica, riaffermando che nessuna esigenza di sicurezza pubblica può legittimare l’abdicazione della responsabilità umana in favore del giudizio di una macchina.
