progetto iBorderCtrl

Immigrato buono o cattivo? Lo dice l’intelligenza artificiale (e fa rabbrividire)

Il parlamentare tedesco del partito pirata, Patrick Breyer, ha portato la UE davanti alla Corte di Giustizia per aver finanziato una sorta di test “Voight-Kampff” per gli immigrati che arrivano in Europa. Ecco cos’è il controverso progetto iBorderCtrl finanziato dall’Unione Europea con 4.5 milioni di euro

Pubblicato il 12 Set 2019

Emmanuele Somma

Segretario del Partito Pirata

iborderctrl

In una delle più celebri storie distopiche di Philip K. Dick, i cacciatori di androidi potevano efficacemente scoprire la vera identità dei pericolosi Nexus 6, in tutto e per tutto uguali agli umani grazie all’immaginario test Voight-Kampff, che attraverso l’analisi video del bulbo oculare poteva verificare le reazioni degli androidi durante una serie standard di domande studiate per stimolare la risposta empatica specifica degli umani. Così scoperti, i ‘lavori in pelle’, nella sarcastica definizione dei cacciatori di taglie androidi, venivano “ritirati”, ovvero uccisi per le vie spicce, sempre che non riuscissero a sparare per primi come avveniva nell’iconica scena iniziale del film Blade Runner di Ridley Scott, la trasposizione cinematografica del racconto di Dick.

Il sistema iBorderCtrl

Questa suggestione letteraria deve forse aver guidato gli sviluppatori del sistema iBorderCtrl quando hanno realizzato un sistema di analisi video delle espressioni facciali e dei comportamenti durante la risposta a domande standard, per scoprire le bugie degli immigrati, potenziali terroristi, fermati alle frontiere d’Europa. Il progetto, sviluppato in Inghilterra dalla Manchester Metropolitan University basandosi sull’analisi della mimica facciale, probabilmente sull’onda degli studi di Paul Ekman, che però hanno avuto più successo nelle serie TV (chi non ricorda Lie To Me, interpretata da Tim Roth) che non nella comunità accademica, è quantomeno controverso sia eticamente che, soprattutto, scientificamente, finanziato dall’Unione Europea con 4.5 milioni di euro.

Il progetto è così controverso che è stata necessaria una revisione da parte di un consulente etico oltre ad una verifica giuridica per la sua applicabilità. Purtroppo non è stato dato accesso ai risultati di questa relazione etica, né alle valutazioni giuridiche e a  gran parte della strategia di relazioni pubbliche del progetto e ai  risultati del progetto, tutti finanziati dal denaro dei contribuenti. Insomma una cappa di segretezza è calata sul progetto in nome forse ad una malintesa ragion di Stato, ma sicuramente perché il rapporto etico e la strategia di pubbliche relazioni sono  “informazioni commerciali” delle società coinvolte e di “valore  commerciale”.

Perché tanta segretezza

L’UE  sta quindi finanziando lo sviluppo di una sorta di test Voight-Kampff per immigrati che dovrebbe essere in grado di scoprire la “bontà” degli immigrati che arrivano attraverso registrazioni video dei  loro volti e lo sta facendo mantenendo segrete tutte le informazioni su questo progetto scientificamente controverso per motivi commerciali. Sta di fatto quindi creando una black-box per distinguere semplicemente guardandoli i buoni dai cattivi le cui regole di funzionamento sono impossibili da conoscere. Per rimanere in campo letterario  e cinematografico, una forma materialista della polizia precrimine di un altro racconto molto noto di Philip K. Dick: Minority Report.

Diritto alla conoscenza negato e uso pseudoscientifico della tecnologia: la questione non poteva sfuggire al neo-eletto membro del Partito Pirata nel Parlamento europeo, Patrick  Breyer, che ha presentato una denuncia alla Corte di giustizia dell’UE sostenendo che «Per quanto riguarda questa tecnologia altamente pericolosa, gli  interessi di trasparenza della comunità scientifica e del pubblico  devono avere la precedenza sugli interessi del profitto privato.   I sistemi per rilevare comportamenti evidenti generano gradualmente una  società conforme di persone passive che semplicemente non vogliono attirare l’attenzione.  Non vale la pena vivere in una società di persone smorte a causa dei sistemi di sorveglianza.»

L’Unione Europea davanti alla Corte di Giustizia

Breyer è stato eletto nel Partito Pirata in Germania e sa bene che lì i rilevatori di bugie non sono ammissibili come prove in tribunale perché è scientificamente provata la loro inefficacia in molti casi noti (stress, paura, malattia, ecc.). L’uso di un sistema del genere sarebbe paradossale poiché potrebbe trasformarsi facilmente in una comoda giustificazione per rifiuti all’immigrazione senza una solida base legale. « Sono convinto che questa sicurezza pseudo-scientifica abracadabra non rileverà alcun terrorista — continua Breyer — Dobbiamo porre fine allo sviluppo di tecnologie finanziato dall’UE per monitorare e controllare ossessivamente i cittadini rispettosi della legge!». Breyer ha portato già in passato l’Unione Europea davanti alla Corte di Giustizia per il suo rifiuto di consegnare documenti relativi alla conservazione  indiscriminata dei dati di comunicazione dell’intera popolazione (causa C-213/15 P ) e  prevede che la Corte si occuperà del suo caso entro la fine dell’anno.

La censura dei documenti

All’inizio di quest’anno, i ricercatori del “Centro Hermes per la trasparenza e i diritti umani digitalihanno tentato un accesso agli atti per ottenere documenti interni sul sistema, ricevendo centinaia di pagine pesantemente censurate e molte completamente oscurate.

«Ciò che non si riesce a comprendere alla base di tutto, a parte il tentativo di sopprimere il dibattito censurando i documenti che affrontano questi problemi, è come questo consorzio, e quindi i finanziatori pubblici, riescano a giustificare l’uso di una tecnologia che, per lo stato delle conoscenze attuali, è nella migliore dei casi da considerare un mix di pseudoscienza e di fuffa tecnologista.» ha detto Riccardo Coluccini, ricercatore presso il Centro Hermes.

Intanto è stata lanciata l’iniziativa iBorderCtrl.no, un progetto collaborativo organizzato per raccogliere gli attivisti su questo tema nato dall’iniziativa originale di Rop Gonggrijp (hacker, attivista) e da Vera Wilde (esperta di rilevamento di bugie), sulla base dei precedenti lavori del gruppo greco per i diritti digitali Homo Digitalis ha posto domande al loro parlamento e dell’eurodeputata Sophia in’t Veld alla Commissione europea e di Privacy International.

Intanto una prova indipendente realizzata dalla testata online The Intercept è impietosa fin dal titolo: «Abbiamo testato il nuovo rilevatore di bugie in Europa per i viaggiatori e abbiamo innescato immediatamente un falso positivo». Nell’articolo si cita inoltre Ray Bull, esperto di indagini penali presso l’Università di Derby, che assistite la polizia britannica nelle tecniche di intervista ed è specializzato in metodi di rilevazione dell’inganno il cui giudizio è lapidario: «Stanno sprecando un sacco di soldi». Di soldi dei cittadini europei, in effetti.

Valuta la qualità di questo articolo

La tua opinione è importante per noi!

EU Stories - La coesione innova l'Italia

Tutti
Social
Iniziative
Video
Analisi
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati