Riconoscimento facciale tramite intelligenza artificiale: tecnologia pericolosa, per le associazioni sostenitori dei diritti civili; ma anche tecnologia ambivalente. Perché i cittadini stanno cominciando a usarla contro gli agenti di polizia per rendere accountable loro e il potere da loro rappresentato: ossia per identificarli ed eventualmente denunciarli in caso di abusi.
Come si “denudano” i visi degli agenti
Questo fenomeno è un’evoluzione nel dibattito sulle tecnologie di riconoscimento facciale. Finora gli attivisti, per esempio nelle manifestazioni a Hong Kong o contro progetti di sorveglianza massiva con questa tecnologia negli Usa o UK, si sono limitati a cercare di limitarne l’utilizzo in vario modo.
Gli attivisti, per esempio, durante le proteste evitano ormai di registrare video, per evitare che quei filmati di denuncia siano passati nei software di facial recognition e quindi si trasformino in armi contro gli attivisti stessi. A Hong Kong è capitato che i manifestanti direzionassero laser direttamente sugli agenti di polizia, per impedire il riconoscimento dei loro volti. E sono numerose le proteste organizzate contro le videocamere di sorveglianza dotate di AI e le richieste di una moratoria legale, ossia un ban, per queste tecnologie, in Europa e negli Usa. In molte città americane questo ban è già avvenuto.
Il progetto del programmatore di Los Angeles
Il passo successivo, come detto, è stato ribaltare le finalità di questo strumento.
Usando gli algoritmi dei deepfake (altra tecnologia ambivalente, per i suoi rischi e opportunità), un programmatore bielorusso, ora residente a Los Angeles, ha mostrato come sia possibile “denudare” i volti in tenuta da sommossa degli agenti coinvolti nelle proteste. Confrontando i dati biometrici parzialmente nascosti con le immagini dei poliziotti bielorussi radunate su internet, il riconoscimento del volto risulta abbastanza accurato.
Il progetto del programmatore di Portland e a Hong Kong
Su questa scia si è mosso anche Christopher Howell, attivista e programmatore autodidatta di Portland che, durante un dibattito pubblico a proposito di una legge che vieterebbe radicalmente l’uso del Facial Recognition, ha dichiarato di essere contrario a questa limitazione. Egli ha sviluppato un sistema di facial recognition per scovare l’identità degli agenti coinvolti in episodi spiacevoli durante le proteste. Howell ha ottenuto un intero dataset di immagini di poliziotti scartabellando articoli di giornali, grigliate tra colleghi, Twitter, dopodiché ha scritto un codice in Python grazie al quale diventa possibile associare a ogni viso un nome.
Anche a Hong Kong il manifestante Colin Cheung ha avuto la stessa idea. Tuttavia, dopo aver pubblicato su Facebook un video nel quale descriveva il suo progetto, fu arrestato, dovendo in seguito abbandonare lo sviluppo della sua app.
Il progetto dell’artista Paolo Cirio in Francia
In Francia, invece, l’artista italiano Paolo Cirio ha pubblicato le foto di quattromila volti di agenti di polizia in una mostra intitolata “Capture”. Si trattava del primo passo verso lo sviluppo di un software di riconoscimento facciale, presto usabile contro gli agenti nelle manifestazioni; insomma, un’arte non solo ferma al concetto, ma propedeutica all’azione. Anche Cirio ha raccolto i volti direttamente dalle immagini condivise sui social network e dai reportage delle proteste in Francia.
Il Ministro degli Interni, tuttavia, l’ha intimato di interrompere il progetto, minacciandolo di intraprendere azioni legali per questa gogna mediatica a cui sono stati ingiustamente condannati migliaia di agenti francesi.
La strategia di “specchio riflesso” dei manifestanti, l’uso degli strumenti di sorveglianza abitualmente impiegati dai poliziotti per identificare quegli stessi agenti oltre il loro “mantello dell’invisibilità”, non è un fatto nuovo.
Nel 2017, per esempio, erano stati hackerati alcuni documenti dell’FBI dai quali emergeva la seria preoccupazione dei federali di essere monitorati da quelle bande criminali che stavano controllando. Si leggeva di come i citofoni intelligenti dei privati venissero utilizzati dai malavitosi per riconoscere gli agenti appostati, così da avvisare immantinente gli interessati. Qualche tempo prima, in effetti, era emersa la collaborazione di Amazon con la polizia. L’azienda di Seattle aveva messo a disposizione le immagini raccolte dagli smart doorbells acquistati dai privati perché gli agenti potessero controllare le strade, identificando i sospettati.
Riconoscimento facciale e polizia
Il riconoscimento facciale è una tecnologia di Artificial Intelligence capace di sfruttare i dati biometrici dei volti per rintracciare l’identità degli individui. Essa è applicata ad ambiti molto diversi tra loro. Si può trovare nei robot assistenziali, nel marketing, nei sistemi di pagamento elettronico, nella sicurezza e ultimamente come tutela privata contro eventuali abusi da parte delle forze dell’ordine.
I poliziotti da tempo utilizzano i sistemi di facial recognition per identificare i volti dei criminali e per mantenere l’ordine pubblico. Ultimamente, però, l’uso dell’Intelligenza Artificiale nelle manifestazioni sta scatenando non poche perplessità. Addirittura IBM e Microsoft, a seguito delle proteste collegate al Black Lives Matter, hanno deciso di interrompere la produzione delle tecnologie di machine perception destinate alla polizia. Grazie all’eccezionale attenzione che ha circondato il “J’Accuse” degli afroamericani, gli studi che dimostravano l’inaccuratezza degli algoritmi di riconoscimento visivo e la loro intrinseca tendenza a male interpretare le solite minoranze (visi femminili e di colore) sono entrati nel dibattito pubblico internazionale, motivando le grandi aziende a bloccare la loro distribuzione.
Intelligenza artificiale ed etica
Da quanto sopra, si comprende perché il tema dell’etica dell’intelligenza è uno dei quesiti più importanti nell’agenda politica internazionale. Le soluzioni sono molteplici.
Per un verso viene domandato agli scienziati di includere nelle loro ricerche e pubblicazioni una sorta di disclaimer, nel quale offrire indicazioni etiche e illustrare i possibili impatti delle tecnologie sulla società; è una chiamata alla responsabilità dei ricercatori. Si chiede inoltre di addestrare la propria rete neurale solo con dataset di immagini di cui è stata lasciata la liberatoria.
Tuttavia, le norme in merito sono tutt’ora poco chiare, perciò, in mancanza di indicazioni e casi giudiziari che abbiano già definito il corso giuridico da seguire, gli attivisti hanno scelto altre vie. Insomma, la libertà è collocata nel silenzio della legge.
Manifestazioni, anonimato, responsabilità della polizia
Questa offensiva si è resa necessaria soprattutto per via del fatto che durante le manifestazioni è piuttosto comune che gli agenti si rendano irriconoscibili. E si sa che l’anonimato rende le persone libere dalla morale. Ogni volta che si effettua una denuncia contro anonimi è come carta straccia; ed è questo che accade quando un attivista accusa l’intero corpo di polizia, senza poter fare nomi né fornire prove.
Così come è provato che l’anonimato renda gli agenti più inclini a esercitare violenza, eccedendo facilmente nell’uso della forza.
Non solo, celare la propria identità si è rivelata addirittura una precisa strategia politica e militare. Quando nel 2014 le truppe di Putin entrarono in Crimea furono intenzionalmente rese anonime. Ciò permise al Cremlino di negare ripetutamente che si trattasse di un’operazione decisa dalla Russia. Tuttavia, proprio grazie al riconoscimento facciale utilizzato dal governo ucraino si poté riconoscere l’identità degli agenti e Putin dovette infine ammettere la sua responsabilità.
In passato quando un generale sparava sulla folla che manifestava non solo non aveva bisogno di nascondere l’identità, ma addirittura veniva decorato dal re, come accadde a proposito dei tumulti di Milano nel 1898. Il segno che i tempi stavano cambiando e che la massa stava acquisendo consapevolezza del proprio diritto di ribellione, fu l’assassinio di quel re che lodò tale abuso di forza. I fatti a cui mi riferisco sono quelli che videro re Umberto I assassinato dall’anarchico Gaetano Bresci. Il cambiamento dipende dalla diversa concezione del potere legittimo e soprattutto dai suoi limiti, i quali corrispondono ai diritti del popolo sovrano.
Il volto come arma, la divisa come maschera
Il volto è diventato un’arma, come viene giustamente affermato nel podcast del MIT technology review. Il nome è più reale di un’essenza: avrebbe liberato dai cognomi, e perciò dal giogo delle rispettive famiglie, Romeo e Giulietta.
L’Es, per come ci viene presentato da Freud, non ha individualità, è una forza comune a tutti gli esseri umani, è una divisa anonima. La pulsione libidica è regolata solo dalla pubblicità delle regole di convivenza, da Super Ego e dalla Realtà. Insomma, non diamo libero sfogo a ogni desiderio perché gli altri ci vedono e ci giudicano per i nostri comportamenti pubblici. Indossando l’anello di Gige, come raccontava Platone nella Repubblica, diventiamo invisibili e quindi anonimi.
In questo caso i meccanismi di difesa con i quali normalmente conteniamo l’Es possono finalmente abbassarsi, permettendoci di agire indisturbati. Un uomo, per Platone, rispetta le regole solo finché sa di essere visto e soprattutto finché sa che l’occhio che lo vede non è clemente.
Gli episodi di cyberbullismo hanno luogo perché le piattaforme della rete ci garantiscono una certa dose di anonimato e perché le ripercussioni legali per i fenomeni quotidiani di hate speech sono pressoché inesistenti. Le forze dell’ordine in America, in effetti, non hanno mai temuto le videocamere di sorveglianza di cui erano piene le strade, poiché sapevano che sarebbero stati loro stessi a visionarle.
Per George Floyd la situazione è stata differente: il video in cui veniva immortalata la brutalità degli agenti è diventato un caso internazionale grazie alla diffusione sui social network, capaci di superare le barriere nazionali americane e il gruppo chiuso degli agenti.
Perché la divisa è una generalizzazione dietro la quale l’individuo può restare invisibile? Come giustamente faceva osservare Popper, i corpi collettivi non esistono, sono solo costruzioni umane, riassunti di individui che agiscono singolarmente sulla base di una vaga idea di gruppo. L’esercito non è un grande organismo: sono tanti soggetti vestiti uguali, fin troppo somiglianti a sincronette fuori dall’acqua. La divisa, allora, non è altro che una maschera, al di là della quale c’è sempre un volto con caratteristiche inconfondibili, ma che spesso si spersonalizza agendo per conto di un “noi” in realtà inesistente. Tuttavia, dietro a ogni tuta da sommossa c’è sempre un uomo la cui azione descrive la cifra della sua individualità e per la quale ognuno è chiamato a rispondere in modo responsabile. Senza un nome non c’è crimine. È per questo che poter riconoscere il volto degli agenti è una tutela importantissima.
Grazie all’occhio imparziale dell’IA, il contratto che avrebbe costituito la società civile e dal quale ogni Stato avrebbe ricevuto il monopolio dell’uso della forza tornerebbe un patto bilaterale, in virtù del quale ogni cittadino può finalmente far valere le proprie rimostranze.
Conclusioni
È chiaro che la Torre del Panopticon (sede di quel sorvegliante in grado di tenerci tutti quanti costantemente controllati) fosse già un’architettura avente la forma di prigione, ma è soltanto adesso che gli attivisti l’hanno trasformata in una cella del tutto simile alla nostra. Impiegando gli strumenti di facial recognition per monitorare chi abitualmente ci sorvegliava, i manifestanti non hanno eliminato il potere, bensì lo hanno reso democratico.
