social scoring

Comune di Bologna, che errore privacy la “patente del cittadino virtuoso”

Quello che Bologna sta progettando è un sistema digitale che raccoglie informazioni relative ad una serie di azioni e che, in base ad esse, attribuisce un punteggio che permetterà di avere dei benefici o delle scontistiche a tutti i cittadini. Ma ha ricadute privacy enormi, da valutare. Ecco perché

01 Apr 2022
Diego Dimalta

Studio Legale Dimalta e Associati

Il Comune di Bologna, stando a quanto riportano i giornali, è in procinto di rilasciare quella che viene chiamata la Patente o Portafoglio del Cittadino Virtuoso. Si tratta di un sistema digitale che raccoglie informazioni relative ad una serie di azioni e che, in base ad esse, attribuisce un punteggio che permetterà di avere dei benefici o delle scontistiche a tutti i cittadini.

Perché la patente o portafoglio del cittadino virtuoso a Bologna

Il progetto nasce nel solco di quello che è il tentativo di digitalizzare una moltitudine di servizi al cittadino, circostanza questa assolutamente condivisibile. Le criticità nascono tuttavia nel momento in cui si fornisce un “peso” ai comportamenti dei cittadini, lo spettro del “rating sociale” rappresenta un problema su cui quantomeno riflettere.

WHITEPAPER
Canale ICT: 5 misure di successo automatizzare il business
Sicurezza
Software
Intelligenza Artificiale, vita, diritti e Libertà » con Alessandro Longo e Guido Scorza

Come funziona

A tal proposito è da evidenziare come un simile progetto sia già stato negli anni scorsi portato avanti nel comune di Roma Capitale. La grande differenza è che a Bologna pare si tratterà di una raccolta di informazioni e, quindi di un sistema di votazione, più organico, capace di comprendere una pluralità di comportamenti. Leggiamo dal Corriere di Bologna che “Il cittadino avrà un riconoscimento se differenzia i rifiuti, se usa i mezzi pubblici, se gestisce bene l’energia, se non prende sanzioni dalla municipale, se risulta attivo con la Card cultura”. E’ evidente che saranno quindi molti i comportamenti tracciati dal Comune, circostanza questa che, se gestita male, potrebbe portare a grossi problemi per la cittadinanza e per l’Amministrazione. Serve quindi cautela ed un esame approfondito delle principali criticità che andiamo infra ad indicare brevemente.

Algoritmi per sorveglianza di massa: l’Europa stringe, la Cina galoppa

La Finalità di Rating, le norme europee

L’articolo 5 dell’Artificial Intelligence Act, ad oggi in discussione presso l’UE, prevede il divieto per l’immissione sul mercato, la messa in servizio o l’uso di sistemi di IA da parte di autorità pubbliche o per loro conto per la valutazione o classificazione dell’affidabilità di persone fisiche in un determinato periodo di tempo sulla base del loro comportamento sociale o personale capace di portare ad una o entrambe le seguenti conseguenze:
(i) trattamento pregiudizievole o sfavorevole di determinate persone fisiche o di interi gruppi di esse in contesti sociali estranei ai contesti in cui i dati sono stati originariamente generati o raccolti;
(ii) trattamento dannoso o sfavorevole di determinate persone fisiche o di interi gruppi di esse ingiustificato o sproporzionato rispetto al loro comportamento sociale o alla sua gravità.
In primo luogo, occorre ribadirlo, l’AI Act non è ancora in vigore quindi, anche qualora si ricadesse in tale fattispecie, non si tratterebbe di una condotta vietata. Tuttavia, tale normativa, seppur allo studio, è un utile indice della direzione verso cui muove l’Unione Europea e, soprattutto, è indice del fatto che delle insidie nascoste dietro a simili trattamenti in effetti esistono.
Non è del resto ben chiaro se il Comune di Bologna intenderà utilizzare sistemi di intelligenza artificiale per fornire gli output di tale valutazione, potendosi trattare anche solo “semplicemente” di profilazione, trattamento comunque invasivo ma non considerabile vietato a priori.

I rischi connessi all’ampio numero di promotori coinvolti

Supponendo che il sistema non utilizzi algoritmi di intelligenza artificiale per attribuire voti e pesi alle scelte dei cittadini, è comunque da ritenere che sussista quantomeno un pericolo di profilazione.
Non solo, la vasta estensione dei comportamenti premianti, induce a pensare che siano molti i soggetti coinvolti nel trattamento e che quindi, in qualche modo, aderiranno all’iniziativa, raccoglieranno dati e li invieranno al Comune per validare l’attività compiuta dal cittadino. Anche su questo il Comune di Bologna dovrà fare attenzione in quanto il passaggio di una simile mole di dati da soggetti, privati e non, verso il comune, innalza la soglia di rischio. Tendenzialmente l’esperienza porta a pensare che ogni trattamento in più costituisce anche un rischio in più e, quindi, estendendo il numero dei soggetti promotori, ciò potrebbe sicuramente ampliare quello che viene definito come perimetro aziendale. Insomma, per capirci, il pericolo di data breach potrebbe aumentare in modo considerevole comportando in questo modo la perdita di dati, anche particolari, appartenenti ai cittadini.

Base giuridica

Altro elemento a cui il Comune di Bologna dovrà fare attenzione riguarda la base giuridica giustificatrice del trattamento. E’ difatti ormai dato per assodato che la Pubblica Amministrazione non può utilizzare il consenso per giustificare i propri trattamenti. Lo dice EDPB ma lo ribadisce anche il Garante in un recente parere ove si afferma che i soggetti pubblici possono trattare dati personali ai sensi delle disposizioni contenute nell’art. 6, par. 1, lett. c) ed e), del RGPD e, dunque, solo se tale trattamento «è necessario per adempiere un obbligo legale al quale è soggetto il titolare del trattamento», oppure quando «il trattamento è necessario per l’esecuzione di un compito di interesse pubblico o connesso all’esercizio di pubblici poteri di cui è investito il titolare del trattamento», alla luce di una base giuridica che abbia i requisiti previsti dal par. 3 del citato articolo.
Certo, allo stato attuale il Decreto Capienze ha semplificato di molto la vita alle PA prevedendo come legittimo il trattamento anche quando fondato su atto amministrativo generale. Tuttavia, occorre evidenziarlo, si tratterà comunque di capire se in effetti un simile trattamento sia riconducibile ad un vero e proprio interesse pubblico in quanto, il DL 139/2021 non può valere come lascia passare per ogni tipo di attività, residuando comunque il limite dell’interesse pubblico. Ed allora sarà necessario chiedersi: esiste un interesse effettivo alla creazione di un simile meccanismo di rating?

Sono come visto molti gli aspetti da tenere in considerazione, per questo il Comune di Bologna dovrà fare molta attenzione ed effettuare tutte le valutazioni del caso prima di attivare ufficialmente tale iniziativa.

@RIPRODUZIONE RISERVATA

Articolo 1 di 3