privacy

Etica degli algoritmi, la tecnologia (ci) sta cambiando: il confronto morale che serve

Non ci può essere tutela della privacy online se non attraverso il continuo rafforzamento della trasparenza degli algoritmi e una contestuale educazione per rafforzare la conoscenza e la consapevolezza da parte di chi se ne serve

08 Ott 2021
Andrea Boscaro

Partner The Vortex

renAIssance - intelligenza artificiale

Nel 2017, forse non del tutto consapevole della delicatezza della notizia che stava per dare, l’amministratore delegato di iRobot, azienda produttrice dei piccoli robot Rumba utilizzati per pulire casa, in un’intervista alla Reuters annunciò che l’azienda era pronta a registrare le planimetrie degli appartamenti dei propri clienti per permettere lo sviluppo di attività pubblicitarie coerenti con la loro grandezza e con le loro caratteristiche. È un episodio citato da Shoshana Zuboff che, nel suo libro “Capitalismo della sorveglianza”, mette in guardia circa l’uso dei “dati eccedenti” che vengono prodotti mente usiamo servizi o prodotti connessi in Rete, in questo caso attraverso l’approccio IoT.

Per un’etica pratica della tecnologia: da dove partire

La privacy prima di tutto

Casi come questo o come quello, quotidiano, che ciascuno di noi sperimenta venendo esposto a pubblicità online frutto di comportamenti – o mancati comportamenti – precedenti hanno creato le condizioni in ragione delle quali la privacy ha assunto un’importanza tale da indurre tutti i browser, da Firefox a Chrome, a decidere di bloccare, in un lasso di tempo più o meno ampio, i cosiddetti “cookie di terze parti” che, per ragioni di analisi o di marketing, vengono oggi utilizzati per tracciare la navigazione dell’utente al fine di monitorarne il comportamento, riconoscerlo, farvi seguito con messaggi di comunicazione adeguati.

Digital event
Torna il Cybersecurity 360 Summit strategia nazionale di cybersicurezza. Online, 27 ottobre
Sicurezza
Sicurezza dei dati

Per fronteggiare tale innovazione senza che questo vada a detrimento delle funzionalità di cui oggi il marketing digitale dispone, stanno emergendo tecnologie alternative ai cookie di terze parti, fornite da soggetti indipendenti, grandi player (es. Microsoft) e dalla stessa Google che però ha dovuto posticipare l’introduzione del suo progetto Privacy Sandbox per via delle reazioni tiepide o ostili da parte degli altri browser: così come i cookie sono uno standard, l’intento di Google è infatti promuovere una tecnologia valida anche al di fuori dei propri sistemi sulla base di un approccio collaborativo con gli altri attori (le cosidette FLoC, “Federated Learning of Cohorts”).

Sempre mettendo al centro il valore della privacy, che non è a caso è il messaggio principale dei suoi attuali spot pubblicitari, è nel frattempo intervenuta la decisione di Apple che, a partire dall’introduzione del suo sistema operativo iOS14, ha cominciato a chiedere il consenso agli utenti perché le app presenti sulla piattaforma, Facebook e Instagram in primis, potessero tracciare la loro navigazione: allo scorso giugno, solo un quarto dei possessori di iPhone aveva manifestato tale intenzione costituendo un serio attentato alle funzionalità su cui è basata l’offerta di marketing e comunicazione delle app.

Immagine 1. Le percentuali di consenso al tracciamento da parte dei possessori di iPhone

Il peso crescente dei walled garden

La tempesta perfetta determinata dalle scelte di Apple e dalla deprecazione dei cookie di terze parti da parte dei browser, fattori che indubbiamente muovono da una maggiore attenzione nei confronti della privacy dell’utente, rischia però di accrescere ulteriormente, nel tempo speso online e nelle scelte di marketing digitale delle aziende che vi sono presenti, il peso rappresentato dai cosiddetti “walled garden”, delle piattaforme (Google, Amazon, i social media) all’interno delle quali la navigazione avviene sempre dietro log-in e quindi in una forma che consente, in modo automatico e deterministico, il riconoscimento del comportamento dell’utente registrato e quindi una sua profilazione continuativa e per questa ragione più significativa di qualunque elemento possa essere desunto dai cookie di terze parti.

L’ampliamento del perimetro dei walled garden a contenuti editoriali, servizi digitali ed offerte e-commerce messi a disposizione da parte di editori e imprese è dunque destinato a crescere e lo scenario di un arricchimento di tali ambiti rispetto ai siti Internet proprietari, già in nuce prima di questi cambiamenti, è confermato dalla crescita degli shop su Facebook e su Instagram (oggi 1,2 milioni), dalle nuove funzionalità per le imprese prossime al lancio su WhatsApp per non parlare degli strumenti che in misura crescente Google sta mettendo loro a disposizione (es. le schede prodotto su My Business) e dei marketplace.

Come affermato nel Digital Services Act, non vi può dunque essere tutela della privacy online se non attraverso una continua opera di rafforzamento della trasparenza degli algoritmi con cui tali piattaforme operano e una contestuale e progressiva educazione per rafforzare la conoscenza e la consapevolezza da parte di chi se ne serve. Ecco perché, ad esempio, la possibilità di osservare le ragioni per le quali siamo esposti a un certo messaggio pubblicitario o gli strumenti come Facebook Ads Library che permettono di monitorare le inserzioni condotte da attori pubblici, privati e del terzo settore sono dunque per rafforzare entrambi questi fronti.

Per un’etica degli algoritmi

Mentre ci accaloriamo attorno al concetto di libertà, “dal” virus o “di” vivere senza restrizioni, le neuroscienze ci avvertono infatti che sono soprattutto gli automatismi a limitarla e in quale misura gli algoritmi incentivino micro-scelte impercettibili se prese singolarmente, ma rilevanti se osservate nel complesso è una presa d’atto che merita di essere fatta ogni qualvolta riceviamo, da parte del nostro telefono, la notifica del tempo speso sulle app la settimana precedente.

Le parole dell'AI - Etica e Intelligenza Artificiale nelle parole di Pasquale Stanzione

Per questa ragione, da Papa Francesco all’Unione Europea, fino ad arrivare a importanti fondazioni (come l’iniziativa “Algorules” da parte di Bertelsmann) e sindacati, si è introdotto un crescente confronto sul piano morale prima ancora che giuridico ed economico volto a promuovere una “etica degli algoritmi” che supporti le decisioni del Legislatore, ma anche le scelte delle parti in causa nei confronti dei confini a cui la raccolta del dato e la sua elaborazione automatica può portare. È di questi giorni, ad esempio, la scelta da parte di Google di impedire a una società attiva nel prestito al consumo, di sviluppare un algoritmo per analizzare, sulla piattaforma di cloud computing messa a disposizione dal motore di ricerca, i volti degli utenti presenti online per analizzarne le emozioni e desumerne il profilo di solvibilità. La combinazione fra accesso ai dati, categorizzazione granulare delle informazioni e applicazione di algoritmi di intelligenza artificiale non possono che richiedere codici di comportamento adeguati e improntati a considerazioni anche di carattere etico.

Come emerge dalle riflessioni di uomini di fede come don Luca Peyron e Paolo Benanti, un algoritmo dovrebbe rispondere a principi quali

  • la trasparenza
  • l’inclusione, garantendo anche concretamente l’esercizio del diritto all’oblio;
  • l’imparzialità, escludendo – come è stato disponibile in passato – la profilazione degli utenti su base etnica;
  • la sicurezza, di fronte a interventi distorsivi quali quelli operati con bot per ragioni di propaganda;
  • la privacy, rendendo possibile, ad esempio, la cancellazione delle ricerche fatte attraverso Google History;
  • l’affidabilità
  • la responsabilità

Quanto agli ultimi due punti, l’ammissione del responsabile di Facebook Chris Palow secondo il quale, nella moderazione dei contenuti, la tecnologia manca della capacità di un essere umano di giudicare il contesto di molte comunicazioni online, soprattutto con argomenti come disinformazione, bullismo e molestie per via della mancanza di informazioni precedenti o di fronte a errori di valutazione causati da pregiudizi o fraintendimenti, mostra quanto l’etica degli algoritmi richieda in ultima analisi un’adeguata allocazione di risorse organizzative e finanziarie per fronteggiare le distorsioni: “Il sistema consiste nel far sposare intelligenza artificiale e revisori umani per fare meno errori”.

La contrattazione dell’algoritmo

La sentenza del Tribunale di Bologna dello scorso 31 dicembre secondo la quale l’algoritmo “Frank” utilizzato da Deliveroo per valutare i rider è “discriminatorio” penalizzando chi si assenta dal lavoro anche per ragioni quali lo sciopero deriva da un ricorso presentato congiuntamente dai sindacati Nidil Cgil, Filcams Cgil e Filt Cgil ed illustra quanto, anche nel sindacato, vi sia una crescente attenzione verso questi temi.

Come sostiene Massimo Mensi, Direttore P&M e Digital Policy Advisor di UNIGlobal Union, la federazione mondiale del commercio e servizi privati, “l’espressione contrattazione dell’algoritmo può evocare l’idea di una figura di sindacalista che si trasforma in provetto ingegnere informatico, intento nell’analisi di oscuri processi di calcolo”. La realtà è che, di fronte ad algoritmi che regolano il rapporto con i lavoratori “il sindacato vuole essere attore consapevole e avere contezza dei meccanismi e soprattutto degli input che sono serviti per elaborare tali effetti”. Ancor più dell’algoritmo, è il dato che deve essere reso oggetto di attenzione, soprattutto se “diventa il motore di una organizzazione del lavoro algoritmica e al quale, molto spesso strumentalmente, si vogliono addossare i carichi di responsabilità degli effetti conseguenti: non è l’azienda che licenzia, non è l’azienda che sottopone a turni estenuanti, non è l’azienda che decide i carichi e i ritmi del lavoro”.

Conclusioni

Più il tempo e le scelte individuali, più i processi produttivi e distributivi del sistema sono organizzati attraverso piattaforme online e il digitale diventa il sistema operativo delle società, più vale il vecchio adagio di Lawrence Lessig “Code is the law”, il codice è la legge. E proprio per questo motivo al codice e a chi lo crea o se ne serve, oltre che a una regolamentazione giuridica, non può non essere richiesta la partecipazione a un serio confronto sul piano morale.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 3