Decreto AI, il rischio di una sorveglianza biometrica di massa

Lo scorso dieci giugno il Governo ha approvato in via preliminare, tra gli altri un Decreto attuativo della Legge sull’intelligenza artificiale, intitolato “Adeguamento della normativa nazionale alle disposizioni del regolamento (UE) 2024/1689 del parlamento europeo e del consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull’intelligenza artificiale, in materia di utilizzo dei sistemi di intelligenza artificiale per l’attività di polizia e di responsabilità civile e penale”.

Lo schema di Decreto – che, va detto subito, è all’inizio del suo iter e potrà, quindi, ancora essere modificato e migliorato – all’art.10, rubricato “Disposizioni in materia di sistemi di videosorveglianza dotati della tecnologia di riconoscimento facciale a posteriori, integrata dall’intelligenza artificiale, per il contrasto dei reati”, contiene alcune previsioni che, probabilmente, meritano un approfondimento perché, a dispetto dell’apparenza, non hanno carattere esclusivamente tecnico-giuridico ma sono destinate a plasmare in maniera significativa la società che vogliamo essere, il Paese nel quale vogliamo vivere, la Democrazia nella quale ci piacerebbe crescano i nostri figli.

Riconoscimento facciale nel decreto IA, cosa prevede il comma 3

È il caso del comma 3.

Eccolo nella versione sin qui nota: “In caso di accesso a luoghi o ad eventi rispetto ai quali sussistono esigenze di ordine e sicurezza pubblica, l’utilizzo dei sistemi di videosorveglianza di cui al comma 1 comporta il trattamento automatizzato dei dati biometrici rilevati dalle immagini del volto delle persone che accedono ai predetti luoghi o eventi, memorizzati a livello locale nella base dati di riferimento di cui al comma 11, lettera a). Nella medesima base dati sono altresì memorizzati, senza l’utilizzo delle tecnologie biometriche di intelligenza artificiale, i corrispondenti dati anagrafici e, ove vi sia un posto assegnato, il relativo identificativo ottenuto con la scansione elettronica dei titoli di accesso. Nell’ipotesi di commissione di un fatto di reato ai sensi del comma 2, l’utilizzo dei sistemi di cui al comma 1 con l’attivazione delle tecnologie di riconoscimento facciale comporta il trattamento automatizzato dei dati biometrici estratti dalle immagini del volto delle persone da identificare poiché indiziate di aver commesso il fatto anzidetto, per il confronto biometrico a posteriori con i dati presenti nella base dati di cui al primo e al secondo periodo.”.

Nonostante la formulazione della norma non sia chiarissima, la sua sintesi sembrerebbe questa: in occasione dell’accesso a non meglio precisati luoghi ed eventi rispetto ai quali sussistano non meglio identificate esigenze di ordine pubblico e sicurezza pubblica, i partecipanti e\o gli spettatori dovranno – una volta che il Decreto sarà in vigore – lasciare all’ingresso l’impronta biometrica del loro volto che verrà associata ai loro dati anagrafici e agli altri dati riportati sull’eventuale biglietto di ingresso e conservata per sette giorni perché possa essere utilizzata, ove necessario, per l’identificazione dei responsabili di reati o tentati reati che dovessero esser commessi nel corso dell’evento, dello spettacolo, della competizione sportiva.

Stiamo parlando dei dati biometrici – che, vale la pena ricordarlo, sono dati identificativi unici, insostituibili, preziosissimi – di milioni di persone che hanno semplicemente scelto di passare una domenica allo stadio, andare a un concerto, partecipare a una manifestazione o a un comizio politico, senza nessuna intenzione di commettere alcun reato.

E sono dati che nella più parte dei casi non serviranno a nulla perché benché reati e incidenti in occasione di competizioni sportive, concerti e manifestazioni, purtroppo, avvengano, per fortuna, avvengono in un numero statisticamente poco rilevante.

Dati biometrici e paradosso dell’identificazione

E non solo.

C’è anche un’altra questione da tenere presente, un autentico paradosso.

Il riconoscimento facciale, per funzionare, presuppone, naturalmente, il raffronto tra due impronte biometriche estratte da volti ben visibili, senza camuffamenti, né alterazioni.

Esperienza e letteratura scientifica, proprio per questo, suggeriscono che mentre chi vuole solo godersi una partita o un concerto, normalmente, passa varchi, tornelli e accessi a volto scoperto e ben visibile e nella stessa condizione si gode lo spettacolo o la competizione sportiva, chi è mosso da cattive intenzioni ha, invece, facile gioco nel coprire, travisare e camuffare il volto all’ingresso e mentre commette qualsivoglia genere di efferatezza con la naturale conseguenza che il sistema ipotizzato al comma 3 rischia di essere strutturalmente più efficace nel profilare gli innocenti che nell’identificare i colpevoli.

È giusto così? È un assetto democraticamente sostenibile? È giuridicamente legittimo nell’ordinamento europeo? È davvero la strada che vogliamo percorrere?

Qualche dubbio appare legittimo.

E vale, forse, la pena metterli in fila senza voler procurare nessun allarme ingiustificato ma, al tempo stesso, senza neppure lasciar passare sotto silenzio una iniziativa che rischia di essere la testa di ariete per trasformare – non importa se in buona o cattiva fede con malizia o poca consapevolezza – la nostra, in una società della sorveglianza di massa diversamente intelligente.

Comunque la si pensi e la si voglia pensare, che si condivida o meno la previsione in questione, infatti, siamo al cospetto di un intervento di portata epocale, davanti all’innesto di un seme dal quale potrebbe germogliare una pianta carnivora straordinariamente vorace in termini di diritti, libertà e democrazia, capace di sfuggire di mano anche a chi, magari con le migliori intenzioni, le ha dato i natali.

In questa prospettiva e solo in questa prospettiva ecco dubbi e perplessità da affrontare e risolvere, non per dir di no in modo apodittico e pregiudiziale all’uso dell’intelligenza artificiale nel contrasto al crimine ma per fare in modo che il suo uso sia umanamente e democraticamente sostenibile.

Luoghi, eventi e discrezionalità nella raccolta dei dati

Cominciamo dal principio.

Quali sono i luoghi e gli eventi nei quali le nuove regole e, quindi, la raccolta massiva e generalizzata di dati biometrici di spettatori e partecipanti dovrebbe realizzarsi?

La disposizione si limita a prevedere che debba trattarsi di “luoghi o eventi rispetto ai quali sussistono esigenze di ordine e sicurezza pubblica”.

Significa tutto e niente perché, evidentemente, questo genere di esigenze sussistono sempre e dappertutto anche se in misura diversa.

Tenuto conto che il titolare del trattamento dei dati personali raccolti, secondo quanto disposto dallo stesso articolo 10 è il Ministero dell’interno – Dipartimento della pubblica sicurezza (comma 4), e che la gestione operativa del sistema è affidata all’ufficiale di pubblica sicurezza designato dal Questore (comma 2), viene da pensare che a decidere, spetterà al Questore, in quanto autorità di pubblica sicurezza territorialmente competente.

Ma la norma, al riguardo, tace.

Non dice nulla.

Non disciplina un procedimento, non prevede un atto amministrativo tipizzato che il Questore debba adottare, non stabilisce criteri oggettivi di valutazione delle esigenze che rendano necessaria l’adozione di misure indiscutibilmente invasive della privacy, non impone una motivazione documentata della decisione, né prescrive un parere preventivo del Garante per la protezione dei dati personali.

Una discrezionalità enorme, difficilmente compatibile con il principio di legalità sostanziale richiesto dalla disciplina europea e, in particolare, dalla Direttiva 2016/680/UE del Parlamento europeo e del Consiglio, del 27 aprile 2016, relativa alla protezione delle persone fisiche con riguardo al trattamento dei dati personali da parte delle autorità competenti a fini di prevenzione, indagine, accertamento e perseguimento di reati o esecuzione di sanzioni penali, nonché alla libera circolazione di tali dati, e che abroga la decisione quadro 2008/977/GAI del Consiglio e dall’AI Act.

Senza dire che tanta discrezionalità è, egualmente, difficilmente compatibile con la necessaria trasparenza verso gli interessati, i partecipanti alle manifestazioni, gli spettatori di partite e concerti, il pubblico di comizi politici.

Se il Questore può decidere, al di fuori di qualsiasi procedimento tipizzato e in qualunque momento che serve raccogliere i loro dati biometrici, infatti, come si potrà informarli per tempo, porli nella condizione di scegliere liberamente se rinunciare alla partita e tenersi stretta l’impronta biometrica del proprio volto o meno?

Eppure non c’è dubbio che debbano essere informati in maniera trasparente dell’esistenza del sistema e che debbano potervici sottrarre.

È una prima lacuna importante da colmare.

Ma non è l’unica.

Il nodo del costo zero e delle infrastrutture private

Secondo un antico, intramontabile e inossidabile italico costume, l’articolo 10 del Decreto, la disposizione della quale stiamo parlando, stabilisce che tutto debba esser fatto a costo zero per la finanza pubblica: la raccolta dei più preziosi tra i dati personali di milioni di persone, le impronte biometriche dei loro volti, la loro conservazione sicura, il loro trattamento con tecnologie diversamente intelligenti, notoriamente tanto potenti quanto umanamente e democraticamente pericolose, tutto deve esser fatto senza generare neppure un euro di maggiori costi per lo Stato.

Basterebbe questo per esprimere il più severo dei giudizi sull’iniziativa legislativa, per dire che chi l’ha concepita non ne ha compreso senso, portata, complessità, delicatezza e rilevanza democratica.

Perché non ha importanza che la si condivida o non la si condivida, che la si consideri democraticamente sostenibile o meno, che si pensi che è più probabile che sia destinata a aprire la strada alla società della sorveglianza che a rendere, effettivamente, più sicuri stadi, concerti, manifestazioni e grandi eventi o il contrario, ma su una cosa ci si dovrebbe trovare tutti d’accordo: è un’iniziativa nella quale commettere errori e sacrificare diritti e libertà di milioni di persone ancorché in nome delle più nobili intenzioni è straordinariamente facile e per scongiurare questo rischio servono competenze, ponderazione, risorse tecnologiche, economiche e scientifiche all’avanguardia.

Non si può riuscire nell’impresa a costo zero per la finanza pubblica.

Non senza accettare rischi inaccettabili sul piano democratico prima e su quello giuridico subito dopo.

E lo conferma la fragilità con la quale si è cercato di ovviare al problema: prevedere che tutto, ma proprio tutto, debba avvenire utilizzando infrastrutture private, quelle degli organizzatori degli eventi e dei gestori degli stadi e degli altri luoghi interessati, infrastrutture che dopo esser state progettate e implementate dovrebbero esser concesse in comodato gratuito esclusivo al Ministero dell’Interno.

Come si fa anche solo a ipotizzare che i dati biometrici di milioni di persone transitino e siano conservati in sistemi e infrastrutture tecnologiche progettate e implementate con risorse private di soggetti diversissimi l’uno dall’altro, con sensibilità ai problemi sul tavolo, ai diritti e alle libertà completamente differenti l’uno dall’altro, con capacità e propensioni a investire nelle necessarie soluzioni diversamente intelligenti enormemente eterogenee?

Difficile pensare che possa funzionare, difficile pensare che non ci si ritroverà in fretta a contare incidenti di sicurezza gravi e gravissimi in danno dei dati biometrici di milioni di persone dovuti al mancato aggiornamento dei sistemi in questione, a una loro cattiva manutenzione o peggio a una progettazione diversa da quella che sarebbe stata necessaria.

È un errore politico gravissimo: legittimo che si scelga di scommettere sul ricorso all’intelligenza artificiale per il contrasto al crimine ma inaccettabile che si scelga di farlo senza un investimento adeguato e scommettendo solo sulle risorse dei privati, peraltro, senza neppure imporre a questi ultimi stringenti obblighi in termini di misura degli investimenti e qualità e certificazione delle infrastrutture.

Proporzionalità, AI Act e raccolta generalizzata

Ma l’una e l’altra questione – quella dell’identificazione dei luoghi e degli eventi nei quali utilizzare il riconoscimento facciale intelligente previsto dalle nuove regole e quella dell’assurda pretesa di farlo a costo zero per il bilancio dello Stato – sono questioni di contorno.

Perché il problema centrale è un altro: l’idea di chiedere a milioni di persone di spogliarsi delle impronte biometriche dei loro volti solo per andare a vedere una partita di pallone, sentire un concerto o partecipare a una manifestazione o a un comizio politico è, almeno, difficilmente compatibile con la Carta dei diritti fondamentali dell’Unione europea, con la Direttiva 2016/680/UE, con la disciplina europea sulla protezione dei dati personali e, forse, persino con l’AI Act.

Almeno se si guarda all’attuale formulazione della norma.

La parola chiave qui è proporzionalità, una parola che riecheggia in tutta la disciplina europea della materia e che rappresenta una condizione imprescindibile di legittimità di un’iniziativa legislativa del genere.

E, nel caso di specie, è difficile considerare proporzionata la raccolta massiva e generalizzata di dati personali biometrici di milioni di persone in vista dell’eventualità che una percentuale modestissima degli stessi, forse, possa risultare di una qualche utilità, peraltro anch’essa tutta da dimostrare, nell’identificazione, non diversamente impossibile ma semplicemente più difficile, di una modesta popolazione di criminali, violenti e facinorosi che, in un numero altrettanto modesto di casi, potrebbero macchiarsi di reati o tentati reati più o meno gravi.

Le ragioni sono tante e diverse.

La prima sta proprio nel carattere generalizzato della raccolta dei dati biometrici.

Per come è scritto, infatti, il comma tre dell’articolo dieci suggerisce che, al momento dell’ingresso, nel luogo o all’evento identificato come a rischio per ordine e sicurezza pubblici, le impronte biometriche dei volti di tutti gli spettatori e partecipanti vengano raccolte e archiviate.

Difficile pensare che una disposizione del genere possa superare il vaglio della Corte di giustizia dell’Unione europea e di quella dei diritti dell’uomo che da anni ammoniscono i Governi sulla circostanza che non c’è scopo, per quanto nobile, idoneo a giustificare una raccolta e un ammasso generalizzato di dati personali – e in questo caso addirittura biometrici – di milioni di persone che nulla hanno a che vedere con illeciti, reati, condotte e comportamenti da contrastare o reprimere.

Ma ancora prima è difficile che pensare che un’impostazione del genere consenta al Ministero dell’Interno, quando dovrà provvedervi, di chiudere con esito positivo la valutazione di impatto privacy o quella richiesta dall’AI Act, in materia di diritti fondamentali.

E non si può dire che la semplice raccolta di questi dati non costituisca un rischio enorme per gli interessati.

Ogni settimana, ogni domenica, di partita in partita, di evento in evento, di concerto in concerto e di manifestazione in manifestazione si moltiplicheranno, in fatti, nel nostro Paese piccole e meno piccole banche dati contenenti i più preziosi tra i dati personali di una persona, dati con un valore enorme sul mercato nero e dati capaci, se cadessero nelle mani sbagliate, di distruggere, per sempre, la vita di una persona giacché a differenza di una password o di un altro codice di sicurezza, non possono essere revocati, cambiati, modificati.

Il rischio di attacchi a questa miriade di banche dati inesorabilmente diversamente sicure è enorme e ineliminabile, tanto da poterlo, probabilmente, considerare incerto solo nel quando ma non nell’an.

Falsi positivi e controllo umano sulle decisioni algoritmiche

La seconda sta nel rischio ineliminabile di falsi positivi.

Anche assumendo che vengano, sempre, fatti scendere in campo solo i migliori algoritmi disponibili sul mercato, studi e ricerche suggeriscono – in laboratorio, con impronte biometriche estratte da immagini frontali e ben illuminate – una percentuale di falsi positivi dello 0,01 per cento per singolo confronto.

Un valore modesto ma non trascurabile se applicato ai grandi numeri delle persone coinvolte nell’applicazione delle nuove regole.

Significa che a ogni ricerca di un indiziato in una base dati di cinquantamila spettatori, ad esempio, di una partita in uno stadio, ci registrerebbero, in media, cinque corrispondenze errate.

E questi, appunto, sono i dati in condizioni di laboratorio.

La realtà è un’altra cosa.

Nelle condizioni reali di uno stadio — angolazioni oblique, illuminazione variabile, occlusioni, movimento — i tassi di errore crescono sensibilmente e inevitabilmente.

Le valutazioni indipendenti più autorevoli, come quelle condotte dal National Institute of Standards and Technology statunitense su centinaia di algoritmi, documentano inoltre che gli errori non si distribuiscono uniformemente: per taluni gruppi demografici i tassi di falsa corrispondenza risultano sistematicamente e significativamente più elevati.

Tradotto in termini più semplici e concreti significa che a ogni attivazione di uno qualsiasi dei sistemi che potrebbero moltiplicarsi sul territorio, persone del tutto estranee ai fatti — con una distribuzione non neutrale rispetto alle caratteristiche demografiche — verranno indicate dalla macchina come possibili autori di reato.

Significa che ogni settimana potrebbero esserci decine di persone accusate di crimini che non hanno mai commesso, identificate dalle forze dell’ordine, magari accompagnate fuori da stadi e concerti sotto gli occhi della gente attorno, dei figli, della loro famiglia e degli amici, colpite, come accade in questi casi, da uno stigma che, spesso, produce conseguenze più gravi, profonde e indelebili di una condanna definitiva.

Per carità, il comma 9 dello stesso articolo 10 vieta che decisioni pregiudizievoli si fondino unicamente sull’esito del riconoscimento facciale intelligente, ma non prevede nulla che appaia davvero capace di scongiurare il rischio che, alla fine, a decidere siano proprio gli algoritmi.

E esperienza e letteratura sul cosiddetto automation bias insegnano che l’algoritmo, ormai, orienta fortemente il giudizio dell’operatore, che tende a confermare anziché verificare davvero.

Senza regole, senza un procedimento tipizzato sul metodo della revisione umana, senza solidi guardrails il divieto del comma 9 rischia di rimanere lettera morta, con la revisione umana destinata a ridursi a semplice firma, di ratifica della decisione della macchina.

Difficile, in queste condizioni, considerare proporzionate le nuove regole, considerarle compatibili con la disciplina europea, ritenerle umanamente e democraticamente prima che giuridicamente sostenibili.

Vanno ripensate o almeno riscritte.

Le modifiche strutturali necessarie al decreto

Difficile pensare che a raddrizzare l’iniziativa e a correggere il tiro basti il decreto ministeriale al quale il comma 11 dell’articolo 10 demanda, sentito tra l’altro il Garante per la protezione dei dati personali, la determinazione delle “a) modalità del trattamento automatizzato dei dati biometrici estratti o rilevati dalle immagini del volto delle persone che accedono ai luoghi o agli eventi di cui al comma 3, e della loro memorizzazione a livello locale, ai sensi del primo e del secondo periodo del comma anzidetto, in una base dati di riferimento per il confronto biometrico a posteriori; b) misure tecniche e organizzative necessarie a garantire un adeguato livello di sicurezza del trattamento;” e degli “c) adempimenti cui il titolare del trattamento è tenuto in conformità a quanto previsto dal regolamento IA”.

Servono interventi più sistematici, più strutturali, più incisivi direttamente sul testo del decreto.

Serve, innanzitutto, stabilire un procedimento solido per l’adozione, da parte del Questore, di un provvedimento tipizzato per l’identificazione, sulla base di parametri obiettivi, verificabili e sindacabili davanti a un Giudice e/o al Garante per la protezione dei dati personali dei casi d’uso del sistema.

Serve stabilire che il provvedimento sia adottato entro termini idonei a consentire di informare adeguatamente gli interessati circa l’operatività del sistema di identificazione facciale intelligente e del conseguente possibile – per quanto si dirà più avanti – trattamento di dati personali anche biometrici.

Serve eliminare alla radice l’idea di una raccolta generalizzata di dati biometrici, peraltro di incerta utilità, di milioni di persone ogni anno, centinaia di migliaia ogni settimana, all’ingresso di stadi, concerti, eventi, luoghi in cui si svolgono manifestazioni o comizi.

Serve sostituire questa raccolta generalizzata di impronte biometriche dei volti di tutti gli spettatori o partecipanti all’evento, con quella di semplici fotogrammi da conservare in forma cifrata e, eventualmente, utilizzare, su ordine del Giudice o, al limite, del Pubblico Ministero, per l’estrazione di impronte biometriche solo qualora, verificatosi un reato o un tentativo di reato e ritenute insufficienti le forme di indagine tradizionali, si renda necessario provare a procedere all’identificazione attraverso riconoscimento facciale intelligente.

Serve prevedere che si proceda all’estrazione delle impronte biometriche in maniera selettiva e graduale, partendo da quelle dei soli interessati presenti nelle aree di immediata prossimità rispetto al luogo del verificarsi del reato o del tentativo di reato.

Serve disciplinare un processo che renda effettivo e non solo formale il controllo umano sulle indicazioni algoritmiche, prevedendo, ad esempio, che l’operatore umano giudichi la somiglianza, almeno nell’ambito di una rosa di candidati, autonomamente e prima di conoscere la valutazione algoritmica.

Serve disciplinare un processo solido per la progettazione e lo sviluppo, con modalità privacy by design, delle infrastrutture tecnologiche degli organizzatori di eventi e gestori dei luoghi destinati a rientrare nell’ambito di applicazione delle nuove regole, per la loro certificazione e per il loro acquisto.

Serve rimuovere il vincolo dell’invarianza di bilancio e stanziare le risorse necessarie alla gestione e al funzionamento dell’iniziativa in condizioni di adeguata sostenibilità sul versante della sua efficienza, efficacia e rispetto dei diritti e delle libertà degli interessati.

Serve, più in generale, passare da garanzie formali affidate a mere dichiarazioni di principio, divieti e limitazioni a garanzie effettive, presidiate da idonee soluzioni tecniche e organizzative.

Intelligenza artificiale, diritti e scelta democratica

Il punto non è dire si o no all’utilizzo dell’intelligenza artificiale per il contrasto al crimine, il punto è fare in modo, ma per davvero e non solo a parole, che nel suo utilizzo la persona, la sua dignità, i suoi diritti e le sue libertà restino al centro.

Perché non si tratta, solo, di disciplinare l’utilizzo di una tecnologia ma di decidere che società vogliamo essere.

E tornano in mente le parole scritte dal Giudice Holmes, esattamente un secolo fa, in una celeberrima dissenting opinion nel caso Olmstead, davanti alla Corte Suprema degli Stati Uniti d’America, il primo processo basato sulle intercettazioni telefoniche della storia: “Dobbiamo scegliere – scriveva – e da parte mia ho già scelto se per la società è più pericoloso che qualche criminale si sottragga alla giustizia o che il Governo giochi un ruolo ignobile pur di assicurarlo alla giustizia”.

La questione resta valida ancora oggi, anzi, oggi più di ieri perché è evidente che, oggi, la tecnologia ci offre soluzioni ancor più efficaci per assicurare alla giustizia ogni genere di criminale, soluzioni rispetto alle quali, il riconoscimento facciale intelligente, rappresenta solo la punta di un iceberg sommerso che emergerà nei prossimi anni.

Che fare? Aderire all’opinione, all’epoca dissenziente, di Holmes e resistere alla tentazione tecnologica o cedervi?

Non siamo a un bivio da poco e, soprattutto, non è un bivio tecnologico ma politico, culturale e sociale.

Scegliere tocca a noi e il momento per farlo è adesso.