Questo sito web utilizza cookie tecnici e, previo Suo consenso, cookie di profilazione, nostri e di terze parti. Chiudendo questo banner, scorrendo questa pagina o cliccando qualunque suo elemento acconsente all'uso dei cookie. Leggi la nostra Cookie Policy per esteso.OK

la riflessione

Tutti i mali della “datacrazia”: quale antidoto al dominio degli algoritmi

Da Platone passando per la psicologia collettiva di Edward Louis Bernays alla datacrazia dei giorni nostri: quali sono i rischi per la democrazia derivanti dal controllo dell’informazione garantito dal possesso dei nostri dati e qual è l’unico antidoto all’addomesticamento sociale operato dai nuovi mezzi di comunicazione

17 Set 2019
Giovanni Perani

consulente in digital transformation


La miriade di informazioni estrapolate dalle nostre azioni tramite appositi algoritmi convergono in un immenso archivio che, opportunamente elaborato, può rendere vulnerabili, o meglio permeabili, le nostre coscienze e la distribuzione di news attraverso le piattaforme digitali rende fragile il nostro sistema e il nostro impianto democratico dal momento che esse, se efficacemente manipolate, sono suscettibili di modificare le dinamiche dell’opinione. Chi detiene le informazioni ha oggi un reale potere di interferenza e di influenza su orientamenti e scelte decisionali.

Il problema non è certo nuovo.

Il mito platonico della caverna

Se è vero che la cultura, intesa come conoscenza e capacità di discernere, è ciò che resta in noi dopo che abbiamo dimenticato quello che avevamo imparato, allora oggi essa bussa forte. È a uno dei miti platonici più noti che vogliamo qui riferirci, il mito della caverna, conosciuto da molti per averlo studiato a scuola. Le ombre proiettate sulla parete di una caverna sembreranno oggetti reali a chi è stato incatenato da sempre con lo sguardo rivolto a quella parete. Ma poi uno dei prigionieri riesce a liberarsi e a uscire dalla caverna e, attraverso un processo lungo e doloroso, abitua gli occhi alla luce del sole e prende coscienza della realtà. Torna quindi nella caverna per comunicare la sua nuova conoscenza, ma dovrà riabituare la vista alle tenebre e faticherà a convincere i compagni che lì erano rimasti e che non saranno pronti a seguirlo.

Un’allegoria, questa, collegata alla teoria della linea, mediante la quale Platone descrive il processo conoscitivo e ne visualizza tutti i segmenti, dal sensibile all’intelligibile, vale a dire disponendo in un ordine susseguente i passaggi dall’opinione alla verità e tracciando i confini tra il percepito e il reale.

Tutte argomentazioni che dovrebbero trovare posto al centro dell’attenzione generale perché la parete della caverna rischia di coincidere sempre più con lo schermo dei nostri computer o degli smartphone. E, a complicare la vicenda, c’è un ulteriore attore che chiameremo “l’informatore”, i Big Data.

Bernays e la teoria della psicologia collettiva 

Per meglio illustrare la situazione facciamo un passo indietro nel tempo, ripercorrendo la storia di una delle figure più interessanti del XX secolo, Edward Louis Bernays, austriaco nato nel 1891 ma naturalizzato americano, che vantava una parentela con Sigmund Freud e che fu uno fra i più eminenti teorici novecenteschi della psicologia collettiva intesa come arte del consenso e della propaganda. C’è chi lo indica come primo teorizzatore dell’utilizzo del subconscio sia a fini commerciali sia con l’intento di fabbricare il consenso dell’opinione pubblica, ambiti in cui fu effettivamente un maestro.

Il 13 aprile 1917, il presidente americano Thomas Woodrow Wilson istituì per decreto il Committee on Public Information (conosciuto anche come Creel Committee) allo scopo di far accettare alla popolazione americana la decisione di schierarsi al fianco delle potenze dell’Intesa contro Austria e Germania durante la Prima Guerra Mondiale. Al progetto partecipò anche il giovanissimo Edward, che rimase profondamente suggestionato dalla capacità persuasiva della macchina propagandistica allora messa in moto.

Leggenda vuole che al temine di quella esperienza zio Freud gli inviasse una copia dell’Introduzione alla psicoanalisi e che, sull’onda di quanto appena vissuto e letto, Bernays avesse cominciato a elaborare la propria teoria sulla possibilità di intercettare le forze irrazionali della mente umana e manipolare l’inconscio, dunque il sentire collettivo. Di certo seppe comprendere come l’informazione mirata possa guidare il comportamento delle masse.

La nascita di un nuovo modello di consumatore

In un’America appena uscita dalla guerra la sovrapproduzione industriale rischiava di portare alla recessione economica. Erano tempi di austerità e in quegli anni il possesso e l’acquisto di beni erano quasi esclusivamente motivati dalla necessità. Uno dei banchieri più in vista di Wall Street, Paul Meyer Mazur della Lehman Brothers, aveva le idee chiare su che cosa fosse necessario: «Dobbiamo cambiare l’America da essere una cultura dei bisogni, ad essere una cultura dei desideri. Bisogna insegnare alla gente a volere cose nuove, anche prima che le cose vecchie siano state consumate del tutto. Dobbiamo formare una nuova mentalità in America. I desideri dell’uomo devono mettere in ombra le sue necessità».

Edward Bernays afferrò il timone di questo cambiamento, rinominò la sua attività “Pubbliche Relazioni” e costruì, nel vero senso della parola, un nuovo modello di consumatore. Nel 1923 pubblicò Crystallizing Public Opinion, volume che Joseph Goebbels, il ministro della Propaganda nazista, dichiarò di grande interesse in un’intervista rilasciata nel 1933 al giornalista Karl von Wiegand.

La convinzione di Bernays, che fosse necessario individuare e sollecitare l’emozione irrazionale psicologica profonda per creare opinioni e consumi, era nuova per quei tempi, giacché fino ad allora si era pensato che la pubblicità di un oggetto, di un fatto o di un’idea passasse solo attraverso la mera informazione.

Le corporations americane furono presto ai suoi piedi. Bernays sponsorizzò riviste femminili inserendo articoli confezionati ad hoc e collegati a prodotti di cui lui era consulente. Curò l’immagine cinematografica di stelle del cinema relativamente ad abbigliamento, gioielli, orologi e auto per cristallizzare nell’immaginario collettivo il senso “leggendario” di alcuni marchi di prodotti commerciali. Si vantò di aver suggerito che l’automobile possa costituire un prolungamento psicologico della sessualità maschile. Insinuò nelle masse il messaggio che l’acquisto non sia la soddisfazione di un bisogno bensì l’espressione privilegiata della propria identità e del proprio status.

La nascita dell’ingegneria del consenso

Il nuovo spirito promosse la produzione e favorì il boom economico. Ci fu, d’altro canto, chi gli imputò di aver trasformato la democrazia americana in una società in cui il cittadino aveva importanza non come tale ma solo in quanto consumatore. Nel Paese maturò progressivamente un’ondata critica e consapevole, e allo stesso tempo prese forma il timore del pericolo costituito dalle forze sotterranee del sentire collettivo, potenzialmente capace di concretizzarsi in folle inferocite e sovversive.

Uno degli scrittori politici più autorevoli del Novecento, Walter Lippmann, congetturò in quello stesso periodo che la natura della democrazia americana fosse mutata e che il “governo del popolo” non fosse più adeguato a guidare le scelte e i processi di decisione politica a causa della profonda irrazionalità e dell’emotività dell’opinione pubblica. Di conseguenza suggerì la necessità di formare un’élite di esperti e di tecnici, detentori di criteri scientifici obiettivi e non promulgatori di “opinioni”, che agissero da supporto ai politici e come argine all’assenza di ragionamento e ai sentimenti inconsci delle masse.

Argine, cioè, proprio a quei fili che Edward Bernays aveva intercettato per creare la sua “ingegneria del consenso”, chiaramente illustrata da questi brevi passaggi: «If the general principles of swaying public opinion are understood, a technique can be developed which, with the correct appraisal of the specific problem and the specific audience, can and has been used effectively in such widely different situations as changing the attitudes of whites toward Negroes in America, changing the buying habits of American women from felt hats to velvet, silk, and straw hats, changing the impression which the American electorate has of its President, introducing new musical instruments, and a variety of others».

E ancora: «To create and to change public opinion it is necessary to understand human motives, to know what special interests are represented by a given population, and to realize the function and limitations of the physical organs of approach to the public»

Ci si può rendere conto della forza insita nella propaganda e nella manipolazione ripercorrendo le tappe dell’eclatante campagna che Bernays organizzò per convincere le donne a fumare, una campagna nota come “Le fiaccole della libertà”.

Nel corso del 1928 George Washington Hill, presidente dell’associazione dei produttori di tabacco americano, si era reso conto che le vendite di sigarette, seppur fiorenti, raggiungevano solo la metà dei possibili clienti, dal momento che il fumo era precluso al mondo femminile. Infrangere quel tabù avrebbe rappresentato un enorme incremento di guadagni. Bernays, sulla base di un’approfondita analisi su ciò che avrebbero potuto significare le sigarette nell’immaginario femminile, per divenire desiderabili – coadiuvato in questo dallo psicanalista Abraham Arden Brill – decise di incardinare l’impianto della propaganda sulla scelta del fumo come sfida della donna al potere maschile; un gesto di autodeterminazione. Così il 31 marzo 1929, al termine della tradizionale parata di Pasqua a New York, evento affollatissimo e di enorme portata mediatica, decise che una giovane donna di nome Bertha Hunt sarebbe uscita dal corteo a un segnale convenuto e avrebbe acceso pubblicamente una sigaretta, seguita in questa azione da una decina di altre donne, al grido di “Torches of freedom”. La stampa era stata opportunamente avvisata in via “confidenziale” dallo stesso Bernays, di un probabile gesto di ribellione plateale delle femministe per la difesa dei loro diritti.

Gli ingredienti erano perfetti e presenti tutti, la presenza di una miriade di giornalisti per impatto mediatico, il brand dello slogan richiamava la Statua della Libertà patrimonio e vanto americano, l’atto del fumare sdoganava un’emancipazione manifesta e la conseguente ribellione, l’opposizione sarebbe stata tacciata di un trattamento di diseguaglianza dei sessi e la valvola emotiva risiedeva nel far percepire all’universo femminile che il fumo era la manifestazione di potenza e indipendenza del sesso debole.

Trent’anni dopo, Bernays, presa coscienza postuma dei danni provocati dal fumo, porse pubbliche scuse all’universo femminile.

Edward Bernays è considerato uno dei più grandi influenzatori del XX secolo, divenne il Public Relator più potente d’America e oltre a collaborare con le principali società collaborò in ambito politico ai massimi livelli con perizia e incredibile abilità, eppure operò con armi davvero assai spuntate rispetto a quelle dei nostri tempi.

Riguardo alla propaganda disse: «Coloro che hanno in mano questo meccanismo […] costituiscono […] il vero potere esecutivo del paese. Noi siamo dominati, la nostra mente plasmata, i nostri gusti formati, le nostre idee suggerite, da gente di cui non abbiamo mai sentito parlare. […] Sono loro che manovrano i fili…»

Dalla psicologia delle masse alla datacrazia

Egli agiva ed elaborava le proprie tattiche sfruttando il suo spirito di osservazione, l’intuizione personale e una rara sensibilità per la psicologica delle masse. Tutti elementi che oggi hanno un peso piuttosto marginale, sostituiti dalla raccolta di informazioni ad ampio spettro, tanto che il ruolo dell’analista in carne ed ossa è stato assunto da quello che chiameremo l’“informatore”, ovverosia i Big Data.

Fino a non molto tempo fa l’analisi e l’elaborazione dei dati emergenti dallo studio dei Big Data originavano perlopiù dall’identificazione e dalla profilazione di clienti attenzionati in prospettiva pubblicitaria, cioè con una predominanza di informazioni legate ad aspetti commerciali. Oggi dobbiamo considerare invece che la raccolta di una mole gigantesca di dati attenenti la nostra persona, condivisi sul web, traccia in modo netto i contorni e l’essenza della nostra personalità, tanto che diversi studi, tra cui quello condotto di recente dall’Università di Cambridge, attestano che al decimo “like” il software ci conosce più di un collega, al centocinquantesimo più di genitori e fratelli e oltre i trecento quasi più di quanto noi confessiamo a noi stessi. Ciò significa cedere la nostra natura più intima a terzi. È come se, dopo anni di analisi, il nostro psicologo consegni traccia delle nostre vulnerabilità più profonde e delle nostre più segrete aspirazioni a venditori o imbonitori esterni.

Per comodità di rappresentazione possiamo dire che oltre alla parete della caverna di Platone, che altro non è che lo schermo del nostro computer, c’è un intruso in più, uno spione: l’“informatore”, che risiede nascosto e dormiente nella tastiera, legge e registra i nostri sentimenti più reconditi e tutte le nostre reazioni quando digitiamo o visitiamo siti o interagiamo, spia e infine comunica alla regia. È tale e tanta la potenza e la portanza di questa raccolta che è stato coniato un nuovo termine che dice tutto: “datacrazia”.

Social e contagio emotivo

Pur non disponendo di simili strumenti, già Edward Bernays aveva compreso che un impatto è tale solo se vi è contagio pubblico. E il contagio emotivo è ben incarnato dalla cassa di risonanza offerta del web, specialmente in ambito social.

In questo contesto, l’aspetto particolare delle fake news rappresenta un problema secondario. Esiste certo la problematica della diffusione di informazioni false che però, per loro natura, sono passibili di essere smascherate e depotenziate per mezzo di informazioni certe e contrarie e perciò utili al controbilanciamento nel web libero. I tempi di questo processo potrebbero essere lenti, forse anche pericolosamente lenti in alcune situazioni, ma in presenza di un’informazione plurima e libera emergerebbe prima o poi il dubbio e di conseguenza la conferma di un dato errato.

Il pericolo maggiore sembrerebbe in realtà essere più sottile e insidioso. Basti pensare all’algoritmo che regola la News Feed di Facebook, cioè il flusso di notizie che compare quando si effettua il login, comprensivo dei post degli utenti amici, dei “mi piace” e, in generale, di tutte le attività personali. Tale algoritmo è autonomo e produce una scrematura di quei dati che, sulla base del proprio profilo interattivo, vengono individuati come più rilevanti; il processo filtra giornalmente una media di 1500 possibili “storie” a testa, tutto in continuo aggiornamento.

Si tenga conto, inoltre, che a questo complesso sistema di interazione si aggiunge il ricorso all’intelligenza artificiale: l’apprendimento automatico (machine learning) consente al sistema di individuare e ricordare le preferenze degli utenti per strutturare sempre meglio una News Feed su misura.

L’elaborazione passa attraverso il “gatekeeping”, cioè un filtro (o “cancello”) e un controllo autonomo sui criteri che determinano la prima visualizzazione di alcune notizie e l’omissione di altre.

Allora sullo schermo della nostra caverna – ovvero sullo schermo del nostro PC –, tramite le informazioni rilasciate all’informatore – ovvero tramite la nostra la tastiera – e attraverso l’elaborazione dei Big Data che individuano ed elaborano le nostre aspettative, gusti, speranze e vulnerabilità, l’algoritmo veicola informazioni che ci toccano personalmente e che hanno una portata sensibile.

Ma la storia degli uomini non muta: «Quis custodiet ipsos custodes?» avrebbe chiesto Giovenale.

Internet, propaganda e controllo sulle masse

Se nella stanza dei bottoni a regolare l’algoritmo ci fosse lo spirito e l’intelligenza di Bernays, che cosa potrebbe accadere? Potrebbe accadere che determinate notizie – mettiamo pure che siano certe – vengano evidenziate ad hoc, indirizzate ad hoc e confezionate con il taglio giusto per generare un pregiudizio d’opinione.

L’inevitabile conclusione è che la distribuzione di news attraverso le piattaforme digitali rende fragile il nostro sistema e il nostro impianto democratico dal momento che esse, se efficacemente manipolate, sono suscettibili di modificare le dinamiche dell’opinione.

Nonostante l’incredibile meraviglia di un internet aperto e plurivalente, una libertà che non ha eguali nella storia dell’umanità, oggi quello stesso sistema rappresenta anche l’accesso privilegiato all’informazione, dunque può significare un possibile controllo sulle masse e un potente strumento di propaganda. In effetti la rete, per alcuni versi, pare aver perso lo smalto iniziale e sembra che cominci a evocare un gigantesco mezzo di addomesticamento sociale.

L’antidoto? Forse lo stesso di sempre: la libertà.

Libertà che non significa anarchia e rappresenta invece il principio fondante e fondamentale del pluralismo in tutti i campi, compreso quello dell’informazione. Libertà che, in antitesi con l’idea di monopolio, assicura quell’equilibrio dei controbilanciamenti propri di una società sana.

Libertà e trasparenza

La libertà sottintende necessariamente trasparenza, perché essa fiorisce laddove vi sia anche capacità di controllo e conoscenza pubblica dei suoi meccanismi. Nel nostro caso, conoscenza dei meccanismi che generano i suggerimenti che l’algoritmo di rete seleziona come preferibili. Come pure devono essere intelligibili i margini d’errore di un tale calcolo probabilistico.

La libertà richiede anche la diffusione di un’ampia informazione al pubblico affinché sia possibile gestire adeguatamente la privacy dei dati personali e comprenderne potere e corretta modalità di gestione.

Le norme che regolano la protezione dati, la garanzia di pluralità e democrazia e l’opportuna trasparenza, per un vivere sempre migliore nelle nostre società, è onere e onore del legislatore. Ma, in verità, è decisamente complicato stabilire i confini etici e giuridici nell’uso dei dati privati a causa della loro intangibilità, senza dire che non è facile individuare la pertinenza istituzionale di questo processo. In questa fase, perciò, è bene che ciascuno si senta avvertito e investito della necessità di vigilare.

L’alibi delle fake news, l’alibi del giusto diritto della tutela del copyright, l’alibi della difesa dalle infiltrazioni di manipolazione in campagne elettorali e così via lasciano in effetti spazio a mani invisibili che si allungano in una sorta di controllo dell’informazione che non è garanzia di pluralità.

Nel rapporto rilasciato nel 2018 da Freedom House, un’organizzazione indipendente per la diffusione della libertà e della democrazia nel mondo, è contenuta la raccomandazione di un maggiore vigilanza della reale libertà della rete e questo è il monito perentorio del suo presidente, Michael J. Abramowitz, che ci sentiamo di condividere: «Democracy is facing its most serious crisis in decades. Democracy’s basic tenets – including guarantees of free and fair elections, the rights of minorities, freedom of the press, and the rule of law – are under siege around the world».[12]

«… prima ancora di avere rifatto l’abitudine a questa tenebra recente, viene costretto a contendere nei tribunali o in qualunque altra sede discutendo sulle ombre della giustizia o sulle copie che danno luogo a queste ombre, e a battersi sulla interpretazione che di questi problemi dà chi non ha mai veduto la giustizia in sé…» (Platone, Repubblica, libro VII)

@RIPRODUZIONE RISERVATA

Articolo 1 di 4