Questo sito web utilizza cookie tecnici e, previo Suo consenso, cookie di profilazione, nostri e di terze parti. Chiudendo questo banner, scorrendo questa pagina o cliccando qualunque suo elemento acconsente all'uso dei cookie. Leggi la nostra Cookie Policy per esteso.OK

progetto iBorderCtrl

Immigrato buono o cattivo? Lo dice l’intelligenza artificiale (e fa rabbrividire)

Il parlamentare tedesco del partito pirata, Patrick Breyer, ha portato la UE davanti alla Corte di Giustizia per aver finanziato una sorta di test “Voight-Kampff” per gli immigrati che arrivano in Europa. Ecco cos’è il controverso progetto iBorderCtrl finanziato dall’Unione Europea con 4.5 milioni di euro

12 Set 2019

Emmanuele Somma

Comitato dei Requisiti del Voto in Democrazia


In una delle più celebri storie distopiche di Philip K. Dick, i cacciatori di androidi potevano efficacemente scoprire la vera identità dei pericolosi Nexus 6, in tutto e per tutto uguali agli umani grazie all’immaginario test Voight-Kampff, che attraverso l’analisi video del bulbo oculare poteva verificare le reazioni degli androidi durante una serie standard di domande studiate per stimolare la risposta empatica specifica degli umani. Così scoperti, i ‘lavori in pelle’, nella sarcastica definizione dei cacciatori di taglie androidi, venivano “ritirati”, ovvero uccisi per le vie spicce, sempre che non riuscissero a sparare per primi come avveniva nell’iconica scena iniziale del film Blade Runner di Ridley Scott, la trasposizione cinematografica del racconto di Dick.

Il sistema iBorderCtrl

Questa suggestione letteraria deve forse aver guidato gli sviluppatori del sistema iBorderCtrl quando hanno realizzato un sistema di analisi video delle espressioni facciali e dei comportamenti durante la risposta a domande standard, per scoprire le bugie degli immigrati, potenziali terroristi, fermati alle frontiere d’Europa. Il progetto, sviluppato in Inghilterra dalla Manchester Metropolitan University basandosi sull’analisi della mimica facciale, probabilmente sull’onda degli studi di Paul Ekman, che però hanno avuto più successo nelle serie TV (chi non ricorda Lie To Me, interpretata da Tim Roth) che non nella comunità accademica, è quantomeno controverso sia eticamente che, soprattutto, scientificamente, finanziato dall’Unione Europea con 4.5 milioni di euro.

Il progetto è così controverso che è stata necessaria una revisione da parte di un consulente etico oltre ad una verifica giuridica per la sua applicabilità. Purtroppo non è stato dato accesso ai risultati di questa relazione etica, né alle valutazioni giuridiche e a  gran parte della strategia di relazioni pubbliche del progetto e ai  risultati del progetto, tutti finanziati dal denaro dei contribuenti. Insomma una cappa di segretezza è calata sul progetto in nome forse ad una malintesa ragion di Stato, ma sicuramente perché il rapporto etico e la strategia di pubbliche relazioni sono  “informazioni commerciali” delle società coinvolte e di “valore  commerciale”.

Perché tanta segretezza

L’UE  sta quindi finanziando lo sviluppo di una sorta di test Voight-Kampff per immigrati che dovrebbe essere in grado di scoprire la “bontà” degli immigrati che arrivano attraverso registrazioni video dei  loro volti e lo sta facendo mantenendo segrete tutte le informazioni su questo progetto scientificamente controverso per motivi commerciali. Sta di fatto quindi creando una black-box per distinguere semplicemente guardandoli i buoni dai cattivi le cui regole di funzionamento sono impossibili da conoscere. Per rimanere in campo letterario  e cinematografico, una forma materialista della polizia precrimine di un altro racconto molto noto di Philip K. Dick: Minority Report.

Diritto alla conoscenza negato e uso pseudoscientifico della tecnologia: la questione non poteva sfuggire al neo-eletto membro del Partito Pirata nel Parlamento europeo, Patrick  Breyer, che ha presentato una denuncia alla Corte di giustizia dell’UE sostenendo che «Per quanto riguarda questa tecnologia altamente pericolosa, gli  interessi di trasparenza della comunità scientifica e del pubblico  devono avere la precedenza sugli interessi del profitto privato.   I sistemi per rilevare comportamenti evidenti generano gradualmente una  società conforme di persone passive che semplicemente non vogliono attirare l’attenzione.  Non vale la pena vivere in una società di persone smorte a causa dei sistemi di sorveglianza.»

L’Unione Europea davanti alla Corte di Giustizia

Breyer è stato eletto nel Partito Pirata in Germania e sa bene che lì i rilevatori di bugie non sono ammissibili come prove in tribunale perché è scientificamente provata la loro inefficacia in molti casi noti (stress, paura, malattia, ecc.). L’uso di un sistema del genere sarebbe paradossale poiché potrebbe trasformarsi facilmente in una comoda giustificazione per rifiuti all’immigrazione senza una solida base legale. « Sono convinto che questa sicurezza pseudo-scientifica abracadabra non rileverà alcun terrorista — continua Breyer — Dobbiamo porre fine allo sviluppo di tecnologie finanziato dall’UE per monitorare e controllare ossessivamente i cittadini rispettosi della legge!». Breyer ha portato già in passato l’Unione Europea davanti alla Corte di Giustizia per il suo rifiuto di consegnare documenti relativi alla conservazione  indiscriminata dei dati di comunicazione dell’intera popolazione (causa C-213/15 P ) e  prevede che la Corte si occuperà del suo caso entro la fine dell’anno.

La censura dei documenti

All’inizio di quest’anno, i ricercatori del “Centro Hermes per la trasparenza e i diritti umani digitalihanno tentato un accesso agli atti per ottenere documenti interni sul sistema, ricevendo centinaia di pagine pesantemente censurate e molte completamente oscurate.

«Ciò che non si riesce a comprendere alla base di tutto, a parte il tentativo di sopprimere il dibattito censurando i documenti che affrontano questi problemi, è come questo consorzio, e quindi i finanziatori pubblici, riescano a giustificare l’uso di una tecnologia che, per lo stato delle conoscenze attuali, è nella migliore dei casi da considerare un mix di pseudoscienza e di fuffa tecnologista.» ha detto Riccardo Coluccini, ricercatore presso il Centro Hermes.

Intanto è stata lanciata l’iniziativa iBorderCtrl.no, un progetto collaborativo organizzato per raccogliere gli attivisti su questo tema nato dall’iniziativa originale di Rop Gonggrijp (hacker, attivista) e da Vera Wilde (esperta di rilevamento di bugie), sulla base dei precedenti lavori del gruppo greco per i diritti digitali Homo Digitalis ha posto domande al loro parlamento e dell’eurodeputata Sophia in’t Veld alla Commissione europea e di Privacy International.

Intanto una prova indipendente realizzata dalla testata online The Intercept è impietosa fin dal titolo: «Abbiamo testato il nuovo rilevatore di bugie in Europa per i viaggiatori e abbiamo innescato immediatamente un falso positivo». Nell’articolo si cita inoltre Ray Bull, esperto di indagini penali presso l’Università di Derby, che assistite la polizia britannica nelle tecniche di intervista ed è specializzato in metodi di rilevazione dell’inganno il cui giudizio è lapidario: «Stanno sprecando un sacco di soldi». Di soldi dei cittadini europei, in effetti.

@RIPRODUZIONE RISERVATA

Articolo 1 di 4