L'ANALISI

Algoritmi che discriminano, ecco perché serve l’approccio giuridico

L’affermazione dell’intelligenza artificiale nei sistemi di profilazione rischia di esasperare il conflitto con la privacy. In ballo la creazione di “bias” in grado di mettere a rischio i diritti fondamentali dell’individuo. Il Gdpr mette a disposizione una serie di strumenti-bussola. Ma la strada non è semplice

04 Giu 2019
Giangiacomo Olivi

Dentons Europe Studio Legale Tributario

colonialismo digitale

Il GDPR offre strumenti pratici e di principio per affrontare il tema della discriminazione algoritmica in modo efficace. Ma ogni intervento presuppone un’ampia collaborazione, non scontata, da parte degli operatori globali. Per il giurista una sfida di vasta portata con impatti sul fronte  economico, politico, sociale.

Qualche settimana fa, una delle maggiori piattaforme social (Facebook, ndr) è stata citata in giudizio dallo U.S. Department of Housing and Urban Development perché, secondo quanto sostenuto da tale organo amministrativo, avrebbe consentito ai propri inserzionisti di veicolare contenuti promozionali nei confronti degli utenti sulla base di attività di profilazione molto invasive – addirittura discriminatorie – poste in essere senza che fossero a questi fornite adeguate informazioni.

Secondo quanto sostenuto dall’amministrazione americana, l’algoritmo alla base del funzionamento della piattaforma social avrebbe deciso autonomamente a quali utenti mostrare determinati annunci immobiliari in considerazione delle informazioni in suo possesso su etnia, genere, classe sociale, contatti sul social network, posizione geografica e confessione religiosa.

Le sfide legate alla discriminazione dell’algoritmo

Prescindendo dalle specifiche contestazioni di cui sopra, la profilazione asseritamente “discriminatoria” – anche definita, in accezione negativa, “discriminazione algoritmica” – è da tempo al centro di discussioni e polemiche, correlate soprattutto ad eventi di natura politica (due esempio su tutti: le campagne elettorali per il referendum Brexit e le elezioni presidenziali americane, entrambe nel 2016); lo sviluppo sempre più rapido e massivo delle tecnologie dell’informazione (si pensi, ad esempio, alla prossima diffusione della tecnologia 5G, o alla distribuzione sempre più capillare – a livello mondiale – della rete internet) rende tale tematica una delle più sensibili aree di confronto e dibattito giuridico, economico, politico e sociale .

Digital event
Torna il Cybersecurity 360 Summit strategia nazionale di cybersicurezza. Online, 27 ottobre
Sicurezza
Sicurezza dei dati

Tuttavia, per comprendere appieno quali sono i principali profili di rischio connessi a questo fenomeno, è necessario analizzare le modalità attraverso le quali avviene la cosiddetta “discriminazione algoritmica”.

Micro targeting, che cos’è e come funziona

Senza volutamente entrare nel dettaglio delle complesse dinamiche sottese al suo funzionamento, alla base del fenomeno della discriminazione algoritmica troviamo due elementi essenziali.

Il primo, di natura meramente tecnico-informatica, consiste nell’utilizzo di sofisticate tecniche di machine learning volte ad elaborare grandi masse di dati al fine di fare emergere connessioni tra singoli dati apparentemente scollegati tra loro, e significati inferenziali nascosti (cioè, l’informazione – anche sotto forma di categorizzazione di un utente in determinati segmenti di profilazione, o cluster – che si può trarre come “risultato” della connessione tra due o più dati).

Il secondo, invece, è costituito dal ricorso ad algoritmi il cui scopo finale è trasformare tali connessioni e significati inferenziali in output concreti e spendibili nei più vari contesti economici, politici o sociali.

Dietro ogni processo di discriminazione algoritmica si trova dunque un’inevitabile attività di c.d. micro targeting comportamentale che già allo stato attuale consente di raggiungere livelli di profilazione talmente elevati da riuscire ad indirizzare le preferenze dei destinatari delle comunicazioni elaborate e trasmesse secondo tale tecnica in modo sempre più efficace e pervasivo.

Il fenomeno è diffuso soprattutto a livello di marketing commerciale, ed è in grado di influenzare attivamente le scelte di acquisto di prodotti, o di adesione a servizi e offerte (ad esempio: prodotti di consumo, servizi bancari e finanziari, ecc.); ogni decisione umana, (soprattutto a livello di scelte politiche, come già brevemente accennato), è tuttavia idonea ad essere positivamente o negativamente indirizzata da forme più o meno invasive di discriminazione algoritmica, con impatti e conseguenze dirette sulle nostre abitudini, preferenze e, più in generale, stili di vita e perfino libertà di pensiero.

Il fenomeno della pubblicità comportamentale personalizzata (alla luce di avanzate tecniche di profilazione), applicato al marketing, può avere risvolti e conseguenze positive soprattutto nell’indirizzare il consumatore verso scelte di acquisto appositamente elaborate alla luce delle sue preferenze di consumo (in ottica, quindi, di efficientamento delle attività di comunicazione). Ciò che tuttavia è idoneo a creare “discriminazione” sono le conseguenze indirette del fenomeno: l’applicazione di tecniche di personalizzazione avanzate al marketing nel mercato immobiliare, ad esempio, può comportare l’invio di annunci immobiliari personalizzati in base all’etnia e alla classe sociale di appartenenza, contribuendo così a creare da una parte “nuovi ghetti”, dall’altra quartieri di lusso.

I punti di forza dell’approccio giuridico al “bias”

Alcuni commentatori ritengono che le connotazioni negative della discriminazione algoritmica originino da un’applicazione troppo poco rigida delle normative in materia di protezione dei dati personali vigenti in epoca anteriore all’entrata in vigore del Regolamento 2016/679/UE (General Data Protection Regulation – “GDPR”).

Altri attribuiscono la diffusione del fenomeno all’erosione della sfera di auto-determinazione digitale dei singoli, a beneficio della mercificazione dei dati personali ormai connaturata al funzionamento di qualunque piattaforma o servizio online.

In ogni caso, l’impatto della discriminazione algoritmica risulta oggi estremizzato anche alla luce della diffusione capillare di tecnologie e sistemi basati sull’intelligenza artificiale – il cui difficile rapporto con la normativa privacy è ormai un dato consolidato.

Quale dovrebbe essere, dunque, l’approccio del giurista nei confronti della discriminazione algoritmica, positivamente o negativamente intesa?

Gli strumenti offerti dal GDPR

A tal proposito, viene in soccorso proprio il GDPR, che, in un’ottica di neutralità tecnologica, contempla disposizioni utili a regolamentare anche il fenomeno della discriminazione algoritmica. Tra queste, in particolare, il diritto a “non essere sottoposto a decisioni basate unicamente sul trattamento automatizzato di dati personali, inclusa la profilazione” di cui all’articolo 22 del GDPR. Tale disposizione nasce dalla volontà del legislatore europeo di elevare la libera volontà di auto-determinazione dell’individuo ad argine concreto contro la discriminazione algoritmica. Ciò si verificherebbe, ad esempio, qualora un algoritmo produca risultati sistematicamente viziati da assunzioni errate di un processo cognitivo di machine learning. Tali errate assunzioni porterebbero, infatti, alla nascita di veri e propri algorithmic bias (pregiudizi algoritmici) con effetti imprevedibili sulla sfera personale degli interessati.

Sempre il GDPR ha formalizzato anche i noti principi di privacy by design e by default (articolo 25 del GDPR) che obbligano a porre la data protection al centro della progettazione e della commercializzazione di qualsiasi prodotto o servizio (ivi inclusi, quindi, gli algoritmi e le intelligenze artificiali) il cui funzionamento si basi sul trattamento di dati personali.

I principi di cui sopra trovano riflesso anche all’interno di uno degli istituti più importanti del GDPR: la valutazione di impatto sulla protezione dei dati personali (cd. data protection impact assessment) di cui all’articolo 35 del GDPR.

Come noto, tale valutazione deve essere svolta in casi ben specifici, ad esempio quando “un trattamento che preveda l’uso di nuove tecnologie” possa “presentare un rischio elevato per i diritti e le libertà individuali” (cfr. art. 35 del GDPR). È questo il caso dei trattamenti fondati su processi di discriminazione algoritmica che possono avere come conseguenza decisioni di impatto rilevante per gli interessati.

Ad esempio: la determinazione del rating creditizio, il calcolo automatico dei premi assicurativi a seconda dello stile di vita o di guida, ovvero l’inserimento in determinati “cluster sociali” in base alla provenienza etnica o geografica.

La valutazione di impatto si rende dunque necessaria non solo nei casi di discriminazione algoritmica ma anche e soprattutto laddove vengano impiegati sistemi di intelligenza artificiale che possano comportare, tra le altre cose, “una valutazione globale e sistematica degli interessati, basata su trattamenti automatizzati, compresa la profilazione, sui quali si fondano decisioni che hanno effetti giuridici o incidono significativamente” (cfr. ancora articolo 35 del GDPR) sulla sfera individuale.

La normativa privacy, con particolare riferimento al GDPR, offre dunque vari strumenti pratici e di principio per affrontare il tema della discriminazione algoritmica in modo efficace. Ogni intervento presuppone, tuttavia, un’ampia collaborazione e messa a disposizione di informazioni anche da parte dei c.d. operatori globali. Ciò non sempre avviene, e su questo punto è necessario un più ampio intervento di “sistema” da parte delle autorità regolamentari. Non si può pretendere che un fruitore di un servizio di pubblicità algoritmica possa, da solo, fugare ogni dubbio.

WHITEPAPER
Gestione dei contratti e GDPR: guida all’esternalizzazione di attività dei dati personali
Legal
Privacy
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati