big tech

Il capitalismo digitale mette a rischio i diritti umani? Quali norme per una rete più sana

L’ultimo Report di Amnesty International denuncia le forme del capitalismo di sorveglianza dei big del Web e ammonisce sulla minaccia per i diritti umani. Servono nuove misure culturali e normative per preservare il web come spazio pubblico di rappresentazione del sé, discussione e costruzione della cittadinanza

06 Dic 2019
Barbara Calderini

Legal Specialist - Data Protection Officer


Bisogna giungere a processi di regolamentazione della rete condivisi, efficaci ma flessibili, adattabili alle realtà specifiche e al contempo seri ed equilibrati, a tutela di un sistema multistakeholders.

E’ un’esigenza e una sfida urgente del nostro secolo.

Il GDPR in particolare, ma anche tutto il compendio normativo legato al Digital Single Market, il Digital Service Act da ultimo, sono tra i più forti ed incoraggianti segnali a livello globale volti a regolare l’uso distorto dei dati da parte sia dei governi che del settore privato. Tuttavia, la loro efficacia a vantaggio dei diritti umani stenta a decollare.

Le accuse di Amnesty International ai big del web

Adesso è arrivato a dirlo anche Amnesty International.

Il modello di business di Google e Facebook, basato sulla sorveglianza, è incompatibile con il diritto alla privacy e costituisce una minaccia per tutta una serie di altri diritti come la libertà di opinione, espressione, pensiero e il diritto all’eguaglianza e alla non discriminazione

Lo mette nero su bianco Amnesty International che, oltre un anno dopo aver messo nel mirino Apple, ha deciso di mettere al centro delle proprie ricerche Google e Facebook all’interno di un report di sessanta pagine pubblicato nel mese di novembre e intitolato. Si intitola Giganti della sorveglianza: come i business model di Google e Facebook minacciano i diritti umani e evidenzia come la sorveglianza “onnipresente” operata da Facebook e Google su miliardi di persone rappresenta una “minaccia sistemica” ai diritti umani.

Secondo il segretario generale di Amnesty Kumi Naidoo, dunque, per proteggere i nostri valori umani fondamentali è necessaria una revisione radicale del modo in cui operano le Big Tech:

“Questo non è l’Internet al quale avevamo aderito inizialmente: con il tempo Google e Facebook hanno minato la nostra privacy e ora siamo intrappolati. O ci sottomettiamo a questa pervasiva macchina di sorveglianza, dove i nostri dati sono facilmente utilizzati per manipolarci e influenzarci, o scegliamo di rinunciare ai benefici del mondo digitale. Dobbiamo recuperare questa piazza per poter partecipare senza che i nostri diritti vengano violati”.

Sono quindi pesantissime le accuse mosse da Amnesty International, al modello di business di Facebook e Google – basato sulla raccolta dei dati degli utenti, sul tracciamento delle attività online e sulla loro categorizzazione a fini pubblicitari. Modello che consente agli utenti di “godere dei diritti umani online solo sottomettendosi ad un sistema basato sull’abuso dei diritti umani”. E in questo comportamento, Amnesty ravvisa in primo luogo “un attacco al diritto alla privacy su una scala senza precedenti”, con effetti a catena che mettono a rischio una serie di altri diritti, dalla libertà di espressione e opinione, al diritto alla non discriminazione.

La risposta di Facebook e Google alle accuse di Amnesty International

Secca e formale la risposta di Facebook che, attraverso una nota di Steve Satterfield, direttore privacy e pubblicità, ha prontamente dichiarato: “siamo in disaccordo con il report, il nostro social consente alle persone di tutto il mondo di connettersi in modi che proteggono la privacy, anche nei paesi meno sviluppati con strumenti come Free Basics”. Inoltre, in risposta ad una richiesta di commento di una nota rivista del settore, Joe Osborne, un portavoce di Facebook, non ha mancato di rilevare come proprio il modello di business dell’azienda consente a “gruppi come Amnesty International di raggiungere i propri sostenitori, raccogliere fondi e promuovere la propria missione”.

Attraverso un suo portavoce, anche Google ha replicato, sebbene in modo meno ufficiale, alle accuse della ONG: “Riconosciamo che le persone si fidano di noi per le loro informazioni, e che abbiamo la responsabilità di proteggerle. Negli ultimi diciotto mesi abbiamo apportato modifiche significative e creato strumenti per dare alle persone un maggiore controllo sulle loro informazioni”.

La ONG riconosce il ruolo positivo di Google e Facebook: servono miliardi di utenti in tutto il mondo e svolgono sempre più funzioni chiave nella società. Per molti utenti e in particolare quelli nelle economie emergenti, queste aziende sono addirittura il punto di filtraggio principale per le informazioni su Internet. Ma ne sottolinea anche i rischi per lo sviluppo di un progetto umano corretto e sostenibile nel digitale.

I guadagni per i big tech sono evidenti: sono tra le realtà più redditizie della storia.

Le manifestazioni tossiche della Rete

Ma i costi per la società sono altrettanto palesi?

Allo stato attuale, le piattaforme possono costituire una grave minaccia per il tessuto sociale, l’economia e le regole della libera concorrenza; per la democrazia.

  • L’amplificazione della disinformazione
  • La crisi della semantica a vantaggio della sintassi
  • Il declino dell’affidabilità delle informazioni
  • Il microtargeting psicografico pubblicitario e politico
  • La polarizzazione che genera al contempo divisione e appiattimento della capacità di ciascuno di esprimere opinioni
  • La “post-verità” che nega l’evidenza e rigetta il ragionamento inseguendo titoli accattivanti e click-bait

sono solo alcune delle maggiori manifestazioni sociali dell’attuale uso inquinato della tecnologia laddove progettato attorno a modelli di dipendenza.

Altre espressioni hanno una connotazione più economica e riguardano:

  • la rilevante alterazione della libera concorrenza
  • il conseguente abuso di posizione, il semi-monopolio.

Emergono poi problemi etici legati allo sviluppo tecnologico:

  • le violazioni della privacy,
  • le violazioni della difesa e della sicurezza,
  • le violazioni della proprietà e dei diritti di proprietà intellettuale,
  • la crisi della fiducia,
  • la minaccia per i diritti umani fondamentali.

Seppure siamo consapevoli che la moderazione e la distribuzione dei contenuti (la composizione dei feed degli utenti e l’accessibilità e la visibilità dei contenuti sui social media) avvengono attraverso una combinazione di processi decisionali umani e algoritmici, molto poco sappiamo delle attuali pratiche di elaborazione in termini di trasparenza e, praticamente, nessun rimedio pare validamente esperibile quando un contenuto viene eliminato o messo in secondo piano.

L’azione della rimozione non lascia traccia ed il contenuto viene sottratto al dibattito pubblico.

In questi anni abbiamo visto diffondersi algoritmi sempre più opachi, creati dal deep learning, per inferire di tutto e di più: black box imperscrutabili by default (anche se non sempre per cattiva fede).

WEBINAR - 3 NOVEMBRE
CISO as a Service: perché la tua azienda ha bisogno di un esperto di Cyber Security?
Sicurezza
Cybersecurity

Ulteriori costi coinvolgono la tenuta dello stesso principio democratico:

  • il declino delle “informazioni affidabili” necessarie affinché i cittadini siano attori informati nel processo democratico
  • l’indebolimento delle istituzioni democratiche pubbliche
  • la fallacia dell’integrità dei sistemi elettorali
  • il capitalismo di sorveglianza che serpeggia ovunque silenzioso ed indisturbato.

E non è un caso che, negli ultimi tre anni, il confronto in sedi sia istituzionali che non, sul ruolo della tecnologia digitale nella società, nell’economia e nella democrazia, abbia attraversato una trasformazione notevole. Dopo due decenni di tecno-ottimismo, dove il progresso tecnologico digitale, e in particolare i social media, vengono visti come nuova dimensione del vivere democratico, nonché come espressione di un valore aggiunto a sostegno dei diritti umani (l’accesso alla rete è considerato alla stregua dei i diritti umani: anche l’Onu ne è fermo sostenitore) e, dunque, favoriti attraverso un approccio di laissez-faire, ci si trova ora nel mezzo di ciò che potrebbe essere definito una sorta di “techlash”.

La logica del “capitalismo digitale” e lo sviluppo della “sharing economy” hanno comportato in particolare una profonda revisione del paradigma giuridico tra libertà e proprietà; i “comportamenti digitali”, a un tempo, figli della libertà di espressione di ciascuno e “mattoncini” dei big data, divengono oggetto di “appropriazione” da parte di terzi attori, sfuggendo in tal modo al controllo degli individui cui ineriscono. Più aumenta la libertà digitale e l’intensità della nostra dimensione sul web, più vasto e appetibile è il banchetto delle nostre informazioni per i data broker.

E se da una parte le elezioni di Trump del 2016 hanno agevolato una repentina presa di coscienza piuttosto diffusa di quanto e come l’infrastruttura digitale possa essere manipolata e a sua volta manipolare, dall’altra, è evidente, che il punto in cui ci troviamo oggi è null’altro se non il risultato dell’orientamento condiscendente e “volutamente” disinteressato che ha permesso a pochi protagonisti del digitale l’occupazione privata di spazi pubblici, all’interno di un contesto di incentivazione animato dalle leggi del mercato.

La tirannia della convenienza

Le piattaforme social pur costituendo un fenomeno complesso, in generale erogano infatti servizi pubblici, mosse dal profitto e dalla pubblicità. Le loro logiche di user experience frictionless (senza attrito) azzerano ogni possibile ostacolo a una veloce e facile fruizione dei contenuti e partecipazione alle discussioni (like, share, sincronizzazione tra dispositivi, versioni mobile dei servizi social e App varie…) consentendogli di raggiungere un nuovo pubblico, mantenendo la base di utenti esistente e favorendo “erroneamente” la convenienza rispetto all’autonomia dell’utente.

La convenienza è oggi la forza più sottovalutata e meno compresa al mondo. Come motore delle decisioni umane, potrebbe non offrire il brivido illecito dei desideri sessuali inconsci di Freud o l’eleganza matematica degli incentivi dell’economista. La convenienza è noiosa. Ma noioso non è la stessa cosa di banale. Come scrive Tim Wu nel suo articolo, “ The Tyranny of Convenience”:

Nelle nazioni sviluppate del XXI secolo, la convenienza – ovvero modi più efficienti e più semplici di svolgere compiti personali – è emersa come forse la forza più potente che modella le nostre vite individuali e le nostre economie.

Perché il digitale si è ammalato

All’inizio il digitale era blu. Il blu elettrico delle tecnologie che vanno alla velocità della luce. Ed era il blu cielo chiaro delle sue potenzialità: “the sky was the limit”. Ma non è durato molto. E non tanto per responsabilità intrinseche dell’infrastruttura digitale, quanto per la perdurante mancanza di un progetto sociopolitico che potesse fungere da valida guida per l’ecosistema mediatico tecnologico. Il digitale si è “ammalato” perché troppo spesso gli abusi sono stati tollerati ed interpretati a vari livelli come forme di libertà d’espressione, la profilazione come personalizzazione, lo spionaggio come sicurezza, l’apatia come tolleranza, il populismo come democrazia.

Ancora adesso le risposte governative, in Europa ma in generale ovunque, ai problemi della Rete sono per lo più solo strumentali o di incentivazione ai sistemi di autoregolamentazione (una sorta di delega di funzioni statali).

Da una parte si è cercato di imbrigliare il “potere” delle piattaforme di controllo del flusso delle informazioni attraverso normative onerose e forse poco ragionate, con ciò favorendo (più o meno consapevolmente) il consolidamento dei grandi attori del web: le normative attualmente in vigore (che tendono erroneamente a considerare il Web alla stregua dei vari media tradizionali) si stanno rivelando, su più fronti, foriere di strumentalizzazioni; causano di fatto la creazione indiretta di barriere all’ingresso del mercato di riferimento, con ciò riducendo enormemente la possibilità di altri attori di emergere.

Dall’altra, come per la pubblicità politica ad esempio, l’approccio è stato utilitaristico e di self regulation con Facebook e Twitter (seguono Twitter anche LinkedIn, Microsoft e Twitch) schierati su posizioni diametralmente opposte.

E non basterà enunciare i diritti. Sarà necessario attuarli: la strada da seguire nel “processo di espansione delle libertà reali godute dagli esseri umani”, come ci ricorda Amartya Sen, potrebbe forse essere quella di valorizzare – ed eventualmente migliorare – il quadro delle regole esistenti.

La “Declaration of Independence of Cyberspace“ di J.P. Barlow è un anelito ideale coinvolgente che sta rivelando tutti i suoi limiti ed è intraducibile in termini concreti.

Non basterà neppure il Contratto per il web proposto da Tim Berners Lee, un insieme di principi progettati per salvare internet ed impedirci di scivolare nella “distopia digitale”.

I monopoli digitali soffocano l’economia e i nostri diritti: quale riforma per internet

Gli errori delle attuali azioni di contrasto all’abuso della rete

Come è possibile salvaguardare i diritti e la dignità dell’uomo non tanto dalle tecnologie in rapida evoluzione, bensì da coloro che decidono di fare uso dei progressi dello sviluppo digitale in un determinato modo ed in determinati contesti?

Quanto il nuovo Regolamento Europeo sulla Protezione dei Dati, GDPR, può essere letto come una prima significativa risposta ed uno strumento idoneo a rispondere ai problemi posti all’inizio?

Domande molto complesse le cui risposte, partendo dalla consapevolezza dell’enorme concentrazione economica che la potenza di automazione e di rielaborazione ha prodotto nelle mani di soggetti privati, ci richiamano alla mente il concetto abilmente espresso da Paolo Grossi quando ci ha descritto l’impoverimento puramente “potestativo” del diritto, ridotto oggi a mero “normativismo” e della conseguente “mitologia giuridica della contemporaneità” dell’idea di una crescita lineare e giusta del rapporto tecnologia/libertà, tecnologia/democrazia, democrazia/ cittadinanza.

Senza alcun dubbio in tutto ciò la “privacy” è uno dei grandi terreni di verifica non solo dell’efficienza della rete, ma anche della sua capacità democratica. Se tutela della privacy significa nello stesso tempo dinamica economica e partecipazione politica, è chiaro che qui si gioca l’una e l’altra.

Ulteriori atti regolatori di oltreoceano (il recente “Hong Kong Human Rights and Democracy Act” degli Usa meriterebbe un discorso a parte) appaiono costantemente mossi da intenti economici e settoriali, come se internet fosse scomponibile in “spazi separati” indipendenti l’uno dall’altro, e dunque fallaci e non risolutivi.

La tendenza “fail often, fail fast” delle Istituzioni si sta, quindi, rivelando una strategia di contrasto inefficiente scadendo piuttosto nel “troppo poco e troppo tardi”.

Gli indizi principali dell’inefficacia delle attuali opzioni che si contendono il campo (con infinite varianti interne): dalla self-regulation, alla soft-regulation, alla hard law si possono elencare a grandi linee.

  • Gli Accordi a porte chiuse tra governi e aziende non hanno funzionato
  • I Codici di Condotta attuali non sono stati veicolo di inclusione e bisogna dirlo, credo con sincerità – finora hanno funzionato poco.
  • L’autoregolamentazione delle aziende ha compresso i diritti fondamentali dei singoli e della libera concorrenza
  • Gli strumenti di impugnazione delle determinazioni contenutistiche imposte dalle aziende del digitale si sono rivelati inesistenti od inefficaci;
  • Gli attuali meccanismi di moderazione dei contenuti online non rispondono in modo compatibile con i requisiti degli standard internazionali sulla libertà di espressione.
  • La black box che caratterizza le elaborazioni di deep learning annienta il principio di trasparenza e di responsabilità algoritmica
  • L’intermediario tecnico (provider) si sostituisce all’intermediario editoriale acquisendo un vero e proprio potere di modifica ed orientamento del flusso delle notizie: ciò comporta che l’affidabilità delle informazioni così come la capacità argomentativa nella formazione del pensiero critico si ponga oggi ai minimi storici.

Anche di “Bill of rights” legati alla dimensione della Rete se ne discute da tempo. Documenti a riguardo ne sono stati prodotti parecchi (il Centro Berkman dell’Università di Harvard ha censito più di 87 dichiarazioni nel mondo) anche in sede istituzionale:

La Carta dei Diritti fondamentali della Rete voluta da Rodotà ne è una significativa manifestazione.

Solo in Europa, inoltre, a fine 2013, la presidenza della House of Commons britannica istituisce una commissione sulla democrazia digitale. Nel febbraio 2014 il Bundestag tedesco istituisce una commissione parlamentare permanente sulla “Digital Society”.

Nell’aprile 2014 il Consiglio d’Europa pubblica una importante guida dei diritti umani per gli utenti di Internet. Nell’estate 2014 il Parlamento francese istituisce una “Commission de réflexion et de propositions ad hoc sur le droit et les libertés à l’âge du numérique”, che annovera tra i suoi membri l’intellettuale Philippe Aigrain (garante del Centro Nexa) e la ricercatrice italiana Francesca Musiani. In Gran Bretagna “Labour Digital”, un influente gruppo di esperti vicino al partito laburista britannico, pubblica “Number One in Digital”, con ampi riferimenti a democrazia e diritti nell’età digitale.

E tutto ciò non pare funzionare in Europa come ovunque.

Come procedere

Le proposte continuano ad essere molte e alcune di esse in fase avanzata di discussione.

Da segnalare:

  • La quarantunesima conferenza internazionale delle Autorità per la protezione dei dati (ICDPPC), dal titolo “Convergence and connectivity raising global data protection standards in the digital age”, che si è tenuta a Tirana (Albania) dal 21 al 24 ottobre scorso. I responsabili della privacy e le autorità di tutta l’Unione europea, degli Stati Uniti e oltre, hanno esaminato le migliori pratiche e gli insegnamenti tratti in merito agli sforzi per promuovere la privacy e la trasparenza a contrasto delle manifestazioni inquinate della tecnologia (la Conferenza ha costituito anche l’occasione per un parallelo ed ulteriore dibattito sulla Convenzione 108+).

120 Autorità intervenute all’evento annuale e sei Risoluzioni adottate potrebbero aver condotto alla definizione di un punto di partenza per rafforzare la protezione dei dati su scala globale e con essa la dimensione democratica della rete.

Qui le sei risoluzione adottate.

  • “Risoluzione sulla privacy come diritto umano fondamentale e prerequisito per l’esercizio di altri diritti fondamentali”
  • “Risoluzione sul ruolo dell’errore umano nei data breaches”
  • “Risoluzione sulla promozione di strumenti pratici di breve e lunga durata e una continuativa strategia giuridica per un’efficace cooperazione nell’enforcement transnazionale”
  • “Risoluzione per supportare e facilitare la cooperazione tra Autorità di protezione dati e le competenti autorità per la tutela dei consumatori e della concorrenza, al fine di raggiungere standard di protezione dati chiari e globalmente elevati nell’economia digitale”
  • “Risoluzione sui social media e i contenuti online di natura violenta ed estremista”
  • “Risoluzione che delinea il piano d’azione della Conferenza fino al 2021. A tal proposito, è stato deciso di garantire un’organizzazione più strutturata alla rete globale di Autorità privacy (ICDPPC), trasformandola, già a partire dal 15 novembre 2019, in un nuovo organismo permanente, più visibile e operativo, la Global Privacy Assembly (GPA). Il prossimo forum annuale delle Autorità privacy di tutto il mondo si terrà in Messico nel 2020.
  • Anche il Consiglio d’Europa, sulla base della Convenzione Europea dei diritti dell’uomo, ha elaborato convenzioni internazionali in settori quali la criminalità informatica, la tutela dei dati e la protezione dei minori. Ha prodotto modelli di atti legislativi, sotto forma di raccomandazioni ai suoi Stati membri, nonché linee guida per gli attori di Internet del settore privato.
  • La Corte europea dei diritti dell’uomo, si è pronuncia su ricorsi che riguardano presunte violazioni della Convenzione, ha reso delle sentenze di principio riguardanti l’ambiente online, in particolare sul diritto alla libertà di espressione e all’accesso alle informazioni e il diritto al rispetto della vita privata.
  • E inoltre Article 19, una delle principali organizzazioni internazionali sulla tutela della libertà di espressione, ha elaborato e proposto la costituzione dei Social Media Council (SMC): un meccanismo di responsabilità multi-stakeholder, composto da CSO, accademici, società di social media e altre parti interessate, riunite per affrontare la moderazione dei contenuti sulle piattaforme di social media.

Il modello di Article 19 prevede un approccio di tipo volontario: diversi SMC a base nazionale e regionale si assumono il compito di fornire linee guida generali alle piattaforme di social media e di decidere i reclami individuali degli utenti, operando sulla base di standard legali internazionali, in materia di diritti umani. I partecipanti, quindi, sulla base del vincolo volontario assunto partecipando ai Comitati di Social Media, si impegnano al rispetto e all’esecuzione delle decisioni (o raccomandazioni) della SMC sulla base della sola buona fede. Questa proposta è stata approvata anche dal relatore speciale delle Nazioni Unite David Kaye ed era in fase di consultazione pubblica fino al 30 novembre 2019. L’obiettivo perseguito è quello di allineare la moderazione dei contenuti agli standard internazionali ma non è chiaro al momento quali siano le regole sostanziali e procedurali da applicare per l’assolvimento delle specifiche funzioni (consultive e giudicanti) demandate ai SMC anche se il framework normativo sui diritti umani, a cominciare dalla giurisprudenza della Corte per i diritti umani (CEDU), pare potrebbe rivelarsi adeguato alle istanze di specificità delle singole piattaforme .

Conclusioni

Oggi possiamo e dobbiamo fare di meglio.

Dobbiamo innanzitutto affrontare una questione di ordine culturale: quella di “educare”, o meglio “formare” ad una maggiore comprensione della complessità dei sistemi sociali, alla consapevolezza della necessità di “riconnettere” l’utilizzo delle nuove tecnologie digitali e della comunicazione alle finalità proprie di una società umana che promuova effettivamente condizioni di cittadinanza attiva ed inclusione.

E certamente servirà un luogo di confronto aperto e di partecipazione al dialogo e alle decisioni; all’implementazione delle soluzioni a contrasto dei problemi legati alla rivoluzione dell’informazione e al vuoto “di integrità” che minaccia l’ecositema digitale. L’obiettivo è promuovere strategie politiche e misure sociali (mediante il rafforzamento di settori strategici quali quello dell’istruzione e formazione) che procedano senza tentennamenti nella direzione della costruzione di un progetto umano sostenibile.

Dobbiamo “fare tesoro” delle lezioni imparate dagli errori commessi.

  • Procedere attraverso una corretta comprensione del sistema digitale
  • Sostenere e guidare il cambiamento
  • Evitare forme di mera autoregolamentazione che consentano ai soggetti privati di definirne i termini
  • Limitarsi a valutazioni legate ad aspetti solo economici.

“Ubi societas, Ibi ius”. Oggi, la società si sta spostando sempre di più in territorio digitale ed interconnesso, e il Diritto ha il dovere di seguirla. È vera anche la stessa proposizione a termini invertiti: “Ubi Ius, ibi societas”, a significare che una qualsiasi forma di aggregazione sociale non può evolversi positivamente se non è regolamentata. E tale impellenza, alla luce delle precedenti considerazioni, sarà efficace tanto quanto sarà in grado di trovare regole non solo specifiche ma di compatibilità e flessibilità atte ad impedire ad esempio che la dinamica economica oscuri le potenzialità della rete come grande spazio pubblico di rappresentazione del sé, di confronto, di discussione e di costruzione della cittadinanza.

WHITEPAPER
Come semplificare il sistema di gestione delle identità digitali?
Sicurezza
IAM

@RIPRODUZIONE RISERVATA

Articolo 1 di 4