la riflessione

Floridi: “App coronavirus devono essere etiche o è meglio rinunciare”

Una buona app deve far parte di una strategia più ampia e deve essere progettata per supportare un futuro equo. Questo dovrebbe essere possibile. Ma se non lo è, meglio fare qualcos’altro. Evitare i suoi costi positivi, negativi e di opportunità

05 Mag 2020
Luciano Floridi

docente di filosofia ed etica dell'informazione, University of Oxford e Direttore del Digital Ethics Lab dell'Oxford Internet Institute


Ci sono diversi problemi etici, non solo legali e tecnici, dietro i tanti sistemi – app di tracciamento contagiati dal coronavirus (o, sistemi di allerta covid-19, come sono chiamati nei Paesi come l’Italia dove ci si basa sulle librerie Apple e Google di exposure notification, ndr).

Per capire la rilevanza etica della questione, è utile distinguere tra la validazione e la verifica di un sistema.

Cos’è la validazione di un sistema

La validazione di un sistema risponde alla domanda: “stiamo costruendo il sistema giusto?”. La risposta è no se l’app è illegale, ad esempio, l’uso di un’app nell’UE deve essere conforme al GDPR; si tenga presente che ciò è necessario ma non sufficiente a rendere l’app anche eticamente accettabile, vedi sotto; non è necessario, ad esempio, se ci sono soluzioni migliori; è una soluzione sproporzionata al problema, ad esempio, se ci sono solo pochi casi nel paese; va oltre lo scopo per cui è stato progettato, ad esempio, se è usato per discriminare le persone o continua ad essere utilizzato anche dopo la fine dell’emergenza.

Supponendo che l’app superi la fase di convalida – supponiamo che un’app pianificata in Europa, non solo nell’UE, sia “valida” nel senso appena dichiarato – deve essere poi verificata.

Cos’è la verifica di un sistema e i suoi problemi

La verifica di un sistema risponde alla domanda: “stiamo costruendo il sistema nel modo giusto?”. Anche qui le difficoltà sono notevoli.

Per una volta, il problema difficile non è la privacy (o la protezione dei dati personali per essere più precisi). Un’app basata su Bluetooth può utilizzare dati anonimi, registrati solo nel telefono cellulare, utilizzati esclusivamente per inviare avvisi in caso di contatto con persone infette, in modo non centralizzato. Non è facile ma è fattibile (vedi anche qui). Certo, è banalmente vero che ci sono e potrebbero esserci sempre problemi di privacy. Il punto è che, in questo caso, possono essere resi molto meno urgenti di altri problemi. Tuttavia, una volta (o, se uno è più scettico di me, anche se), la privacy è curata, altre difficoltà etiche devono essere risolte. Riguardano l’efficacia e l’equità dell’app.

Efficacia dell’app

Per essere efficace, un’app deve essere adottata da molte persone. In Gran Bretagna, mi viene detto che sarebbe inutile se utilizzato da meno del 20% della popolazione. Secondo il PEPP-PT, la reale efficacia sembra essere raggiunta intorno alla soglia del 60% dell’intera popolazione. Ciò significa che in Italia, ad esempio, l’app dovrebbe essere utilizzata in modo coerente e corretto da qualcosa tra 11 e 33 milioni di persone, su una popolazione di 55 milioni. Si consideri che nel 2019 Facebook Messenger è stato utilizzato da 23 milioni di italiani. Anche l’app TraceTogether, spesso menzionata, è stata scaricata da un numero insufficiente di persone a Singapore (12% al momento della stesura di quest’articolo).

LIVE STREAMING 11 GIUGNO
Security Intelligence: investire in sicurezza per prevenire i rischi
Intelligenza Artificiale
Sicurezza

Equità dell’app

Dato che è improbabile che l’app venga adottata in modo così esteso solo volontariamente, per altruismo o responsabilità sociale, è chiaro che potrebbe essere necessario incoraggiarne l’uso, ma questo sposta solo il problema. Perché gli incentivi errati e positivi per utilizzare un’app volontaria – ad esempio, per utilizzare l’app come una specie di passaporto, per consentire agli utenti di tornare al lavoro o avere accesso privilegiato ad alcuni servizi – presentano almeno due svantaggi: tentano di giocare al sistema o imbrogliare, ad esempio, lasciando il telefono nel cassetto, se è necessario un record “pulito” per poter avere accesso ad alcuni servizi o arrivano a fornire il tipo sbagliato di autovalutazione se appare essere a rischio la possibilità di un trattamento medico trattamento.

I sistemi sono ingiusti se solo coloro che hanno l’app hanno accesso ad alcuni servizi. Ad esempio, si consideri che, secondo l’ultimo rapporto DESI della Commissione europea (i dati sono disponibili solo fino al 2016, vedere qui), solo il 44% degli italiani tra i 16 ei 74 anni ha “almeno competenze digitali di base”. E non tutti hanno o possono permettersi un telefono cellulare dotato di Bluetooth.

Si noti che nel decreto italiano che ha dato un framework normativo al sistema di allerta, in vigore dal primo maggio, si è appositamente esclusa la possibilità non solo dell’obbligatorietà dell’app ma anche un qualsiasi tipo di discriminazione a danno dei non utenti.

Pertanto gli incentivi positivi dovrebbero essere indipendenti dall’uso dell’app, ovvero non dovrebbero essere endogeni (ciò che viene offerto dall’app), ma esogeni (ciò che viene offerto per l’app).

Un tipico meccanismo di incentivazione esogena è una lotteria. L’installazione e l’esecuzione dell’app possono essere come l’acquisto di un biglietto della lotteria e premi periodici potrebbero essere assegnati a “biglietti per app”, al fine di ottimizzare il processo e incentivare le persone a ottenere il maggior numero possibile di “biglietti” (app scaricate e attivate). Quelli tentati di “giocare al sistema” – ad es. se le persone vicino a loro adottassero l’app per avere “più biglietti”, questo rafforzerebbe effettivamente la tendenza positiva, garantendo un’adozione più diffusa dell’app. E un meccanismo di lotteria potrebbe evitare discriminazioni ingiuste in termini di vantaggi o altri tipi di facilitazione non disponibili per coloro che si trovano dalla parte sbagliata del divario digitale. Questi sono tutti buoni risultati.

Se un qualche tipo di meccanismo di incentivazione basato sulla lotteria non viene adottato o non funziona sufficientemente bene, l’altro problema è la natura potenzialmente ingiusta di una soluzione volontaria che viene utilizzata da una comunità limitata. L’app funziona molto meglio più è diffusa. Ed è molto diffusa dove c’è più alfabetizzazione digitale e possesso dei telefoni cellulari dotati di Bluetooth low energy. Pertanto, rendendola volontario e collegandovi alcuni benefici o vantaggi, esiste un rischio molto concreto di privilegiare i già privilegiati e le loro aree residenziali. Il seguente riassunto del “Rapporto sull’indice dell’economia e della società digitale 2019 – Capitale umano” merita una citazione integrale: “Nel 2017, il 43% della popolazione dell’UE aveva un livello insufficiente di competenze digitali. Il 17% non ne aveva affatto, in quanto non utilizzavano Internet o lo facevano a malapena.

App, divario digitale che diventa divario biologico

Secondo l’indicatore delle competenze digitali, un indicatore composito basato sul quadro delle competenze digitali per i cittadini, il 17% della popolazione dell’UE non aveva competenze digitali nel 2017, il motivo principale era che non utilizzavano Internet o lo facevano solo raramente. Ciò rappresenta un miglioramento (cioè una diminuzione) di 2 punti percentuali rispetto al 2016. La percentuale di cittadini dell’UE senza competenze digitali di base, a sua volta, è diminuita di 1 punto percentuale (al 43%). Tuttavia, queste cifre implicano gravi rischi di esclusione digitale in un contesto di rapida digitalizzazione. Vi sono proporzionalmente più uomini che donne con almeno competenze digitali di base (rispettivamente 60% e 55%). Inoltre, solo circa il 31% delle persone con livelli di istruzione bassi o senza istruzione possiede almeno competenze digitali di base. Il 49% delle persone che vivono nelle aree rurali ha competenze digitali di base rispetto al 63% nelle aree urbane. Esistono ancora notevoli disparità tra gli Stati membri. La percentuale di persone con almeno competenze digitali di base varia dal 29% in Bulgaria e Romania (nonostante i notevoli progressi in entrambi questi paesi nel 2017) all’85% in Lussemburgo e al 79% nei Paesi Bassi”.

Se l’app non è pianificata e progettata con cura, il divario digitale può diventare un divario biologico. Si potrebbe obiettare che una piccola percentuale di persone che adotta volontariamente l’app è meglio di niente. Ne dubito, dato che una percentuale così piccola tende a vivere insieme nelle stesse aree. Sarà fantastico, ma solo per loro (benefici e incentivi positivi inclusi) e inutile per tutti gli altri. In effetti, l’ingiustizia di un’app volontaria adottata da una piccola percentuale della popolazione può essere utilizzata per sostenere il caso di una soluzione obbligatoria, ovvero incentivi negativi. Laddove il vantaggio principale sia collettivo, non individuale, può essere contestualmente etico richiedere che coloro che possono permettersi di più facciano di più, cioè a coloro che possono adottare una soluzione digitale sia chiesto di adottarlo. Questo incentivo “negativo” (l’app obbligatoria) potrebbe discriminare “positivamente” i migliori (i possessori di un telefono cellulare abilitati alla digitalizzazione) per aiutare, ora come gruppo molto numeroso, il peggio. Metaforicamente, un’app obbligatoria funzionerebbe come una tassa. A coloro che possono contribuire in modo più digitale può essere richiesto di farlo. Si consideri che in alcune culture questo può essere un risultato sociale di fatto, non un requisito legale, ogni volta che la pressione e le aspettative dei coetanei rendono un comportamento così fortemente previsto quasi obbligatorio.

La tentazione politica finale: annuncio “tanto per”

In tutto ciò, c’è un’ultima tentazione a cui bisogna resistere: una soluzione meramente politica, nel senso seguente.

La convalida e la verifica sono ovviamente correlate. Soprattutto, sono collegati da una duplice relazione fondamentale: la mancanza di convalida dovrebbe impedire a uno di creare l’app; e una verifica scadente o non riuscita dovrebbe forzare a riconsiderare la convalida dell’app in primo luogo (ad esempio, la sua necessità).

In parole povere: se si scopre che non si può costruirlo nel modo giusto, forse non si dovrebbe costruirlo affatto in primo luogo (non è la soluzione giusta da costruire) o cambiare completamente approccio, a causa dell’opportunità positiva + negativa + costi sostenuti dalla soluzione adottata. Questa relazione aiuta a spiegare perché l’app potrebbe essere criticata in alcuni casi come una semplice soluzione politica.

Quando una soluzione è etichettata come semplicemente politica (“non importa se il sistema funziona o no, anche se non lo è, dobbiamo dimostrare che stiamo facendo qualcosa”), allora ciò significa che il collegamento a ritroso tra verifica e validazione è reciso. In parole povere di nuovo: non importa se (mente: non se) non si può costruire l’app in modo corretto – in particolare, non importa se l’app è totalmente o ampiamente inefficace – si dovrebbe comunque costruirla (la validazione è ok) perché la convalida non riguarda il sistema ma il processo di annuncio della creazione dell’app e persino un’app inefficace ha ancora successo nell’annunciare che qualcosa è stato provato e fatto.

Talvolta la convalida e la verifica di separazione sono giustificate eticamente. È spesso giustificato in casi di elevata incertezza (il tipo di scenari “nel caso in cui funzioni”). E potremmo essere di fronte a uno di questi casi. In generale, i politici adorano pensare che la separazione V / V offra una situazione vantaggiosa per tutti: se funziona alla grande, in caso contrario, si è ancora dimostrato buona volontà, attenzione, si è provato tutto, per cui non si può essere incolpati provare etc. Naturalmente, la tentazione è di trattare tutti i costi – che sono la ragione per non convalidare la convalida e la verifica – come esternalità (influenzano il futuro, il prossimo governo ecc.). Penso che questo non sia uno di quei casi – vale a dire, non è un caso in cui siamo eticamente giustificati nel troncare la convalida e la verifica – perché i costi (tutti i tipi di essi) sono elevati e non possono essere “esternalizzati” (anche assumendo quella era una buona pratica, che non lo è): colpiranno abbastanza rapidamente una popolazione / governo, potenzialmente peggiorando l’intero problema.

Pertanto, si dovrebbe evitare il rischio di trasformare la produzione dell’app in un processo di segnalazione. Per fare ciò, la verifica non deve essere separata dalla convalida, ma deve fornire un feedback. Ciò significa che se la verifica fallisce, anche la convalida dovrebbe essere riesaminata e l’intero progetto dovrebbe essere riconsiderato. Ne consegue che un termine preciso entro il quale (e da chi) l’intero progetto può essere valutato (convalida + verifica) e, nel caso, essere chiuso, migliorato o anche semplicemente rinnovato così com’è, è essenziale. Questo livello di trasparenza e responsabilità dovrebbe essere in atto.

In conclusione

La tecnologia può aiutare, sostanzialmente. Ma un’app da sola non ci salverà. E l’app sbagliata potrebbe essere peggio che inutile, in quanto causerà problemi etici e potenzialmente esacerberebbe i rischi relativi alla salute, ad es. generando un falso senso di sicurezza o approfondendo il divario digitale. Una buona app deve far parte di una strategia più ampia e deve essere progettata per supportare un futuro equo. Questo dovrebbe essere possibile. Ma se non lo è, meglio fare qualcos’altro, evitare i suoi costi positivi, negativi e di opportunità, e non giocare al gioco politico di semplice annuncio che qualcosa (anzi qualcosa) è stato provato.

DIGITAL EVENT 18 GIUGNO
Think Digital Summit: tecnologie e trend verso una nuova normalità
Cloud
Sicurezza

È chiaro che stiamo entrando in aree inesplorate dell’etica digitale. La strada da seguire potrebbe consistere nel progettare le giuste politiche che incentivano l’adozione dell’app (volontaria, obbligatoria o una combinazione delle due) e / o in una diversa architettura dell’app (ad es. Più centralizzata, utilizzando i dati GPS ecc.) e / o la natura dell’hardware richiesto (pensa a un tracker basato su Bluetooth economico e distribuito liberamente, come quelli che puoi collegare ai tuoi tasti per trovarli a casa) e / o come viene utilizzata l’app (pensa di un hub app, in grado di supportare un’intera famiglia attraverso un solo telefono cellulare, in connessione con altri tracker Bluetooth). Ma qualsiasi soluzione dovrebbe prendersi cura delle sue implicazioni etiche ed essere abbastanza flessibile da essere rapidamente migliorata, per correggere potenziali carenze e sfruttare nuove opportunità, man mano che le pandemie si sviluppano. Rimango ottimista, è possibile trovare una buona soluzione e gli sforzi per escogitarla valgono sicuramente la pena, ma sono consapevole che non sarà facile, soprattutto perché una soluzione digitale potrebbe non essere proposta di nuovo al pubblico se c’è un fallimento iniziale. Mi viene in mente uno di quei problemi di scacchi che sono abbastanza difficili da farti dubitare che potrebbe esserci un errore nel modo in cui vengono dichiarati.

@RIPRODUZIONE RISERVATA

Articolo 1 di 4