Manipolazione e controllo di massa: Stati o Big Tech il risultato (nefasto) non cambia

Tra le evoluzioni distopiche della tecnologia possiamo annoverare sicuramente la manipolazione e il controllo di massa della popolazione. Distorsioni che non avvengono certo soltanto in regimi lontani, ma anche nelle democrazie occidentali.

E quando si parla delle evoluzioni distopiche della tecnologia non posso non pensare alla poesia dell’anello di Tolkien (ma quanto era profetico?) in cui si parla proprio del potere con analogie fortissime con quanto sta succedendo ora:

One Ring to rule them all,

One Ring to find them,

One Ring to bring them all

Black Mirror | Nosedive Featurette [HD] | Netflix

Guarda questo video su YouTube

Se guardiamo a quello che sta succedendo, la tecnologia è usata dalla Cina (e non solo) proprio per i tre scopi rappresentati nella poesia dell’anello:

• Tecnologia usata per sorvegliare e trovare le persone
• Tecnologia usata per dominare le persone
• Tecnologia usata per manipolare le persone e farle comportare come un branco (raggrupparli)

La tecnologia e il controllo sociale

Se i primi due anelli avevano l’obiettivo di trovare o di dominare gli avversari, il terzo anello è più subdolo. Non agisce infatti tanto su un vero o presunto nemico. L’obiettivo qui è diverso: “One Ring to bring them all” dove, come abbiamo visto, “bring them all” significa “portarli insieme”, “raggrupparli” più che “ghermirli” (come in alcune traduzioni). Come Sauron forgiò le armate degli Orchi e con un paziente lavoro le rese obbedienti e disciplinate, così in molti paesi le masse vengono “raggruppate”. Stiamo parlando sia di paesi autoritari che democratici, perché questo anello fa poche distinzioni.

L’esempio più eclatante che viene subito in mente è quello di Sesame Credit, il sistema di controllo sociale costruito da Ant Financial Services Group, una filiale del gruppo cinese Alibaba. Il tema è stato oggetto anche di un episodio di Black Mirror che molti avranno visto. In sostanza si tratta di una serie di iniziative e progetti (non ancora un “sistema” a livello paese) per incrociare informazioni rispetto a individui e aziende e produrre un “punteggio sociale” che permetta di garantire o negare dei diritti o dei servizi. Ad esempio, la possibilità di viaggiare e di avere un passaporto, la possibilità di accedere al credito ma anche i tempi di attesa per le prestazioni sanitarie possono essere modulate in base al punteggio sociale.

Sorveglianza di massa, la Cina non è poi così lontana: perché potremmo diventare tutti uiguri

Controllo di Stato o in mano alle big tech: il risultato non cambia

Realtà lontane? Può darsi, ma come sempre è facile vedere la pagliuzza nell’occhio del fratello (anche se questa non è esattamente una pagliuzza) mentre si ignora la trave nel proprio occhio. E la trave nel nostro occhio l’ha descritta molto bene Shoshana Zuboff nel suo libro: “Il Capitalismo della Sorveglianza”. Un sofista cinese potrebbe argomentare che permettere a soggetti privati di maneggiare con tanta libertà e spregiudicatezza i nostri dati non è certo meglio del lasciare questa libertà allo stato. La differenza tra est e ovest è tutta qui: i sistemi di controllo sociale sono già attivi sia in oriente che in occidente, semplicemente con finalità diverse. Per la Cina la finalità è quella di educare i cittadini inducendo comportamenti virtuosi e disincentivando quelli indesiderati, per le grandi corporation occidentali l’obiettivo è spingerci a taluni comportamenti soprattutto relativi ai consumi e agli stili di vita, scoraggiando il senso critico e la sobrietà.

Tutti e due hanno una radice comune nel comportamentismo di Skinner, che guarda caso non è cinese ma occidentale, e che ha rappresentato benissimo la sua teoria del condizionamento operante nel romanzo “Walden Two”. In effetti, a pensarci bene, forse l’obiettivo del governo cinese non è peggiore di quello dei Tech Giant americani. Il risultato è malefico in entrambi i casi.

(Jean-Marc Côté – En l’an 2000)

Le manipolazioni di Cambridge Analytica

Ci sono molti esempi di manipolazioni famose. Il più noto è forse quello della defunta Cambridge Analytica (CA). Non tutti conoscono però l’esperimento sociale compiuto a Trinidad e Tobago che ricorda da vicino certe strategie manipolatorie che vediamo alla vigilia di ogni elezione. In sintesi, la sfida era tra due coalizioni, una (UNC) che rappresentava in maggioranza la parte di origine indiana della popolazione e uno che rappresentava la parte di colore. Cambridge Analytica fu ingaggiata da UNC (che rappresentava gli indiani) per vincere le elezioni. Invece che fare una campagna tradizionale, CA fece una campagna promuovendo l’astensionismo per tutti i giovani di qualunque etnia e gruppo sociale come forma di indipendenza e di ribellione al governo. I due gruppi etnici, per cultura, erano influenzabili in modo diverso da questo messaggio. Risultato: i giovani neri in massa seguirono i consigli della campagna di CA e non andarono a votare. I giovani indiani invece, avendo un background culturale diverso e forse alle spalle famiglie che li orientavano maggiormente verso il voto, andarono a votare. Risultato: UNC vinse le elezioni.

Per finire vorrei citare un interessante libro di Amy Webb (“The Big Nine: How the Tech Titans and Their Thinking Machines Could Warp Humanity”) che descrive lo scenario sull’AI (forse l’anello finale per la manipolazione di massa) e su come le Big Nine (Google, Microsoft, Amazon, Facebook, IBM, Apple, Baidu Alibaba, Tencent) lo stanno affrontando. Gli scenari che ne emergono vanno dal preoccupante all’agghiacciante.

Conclusioni

Cosciente che con questo e con gli altri articoli di questa serie sto velocemente perdendo punti sul sistema di rating cinese (che non escluderei possa essere utilizzato per catalogare anche noi europei che scandaglia incessantemente il web), credo sia il momento di fermarsi qui.

Chiudo con qualche istruzione operativa: che fare?

Innanzitutto, credo sia fondamentale la consapevolezza, perché tutto parte dal nostro senso critico. Come diceva Milton Friedman (e la saggezza popolare): “There is no such thing as a free lunch”. Anche e soprattutto sul web. Poi consumiamo i dati del web e forniamo i nostri dati, ove possibile, responsabilmente. Ma soprattutto dedichiamo un po’ di tempo a capire come i diversi partiti politici si pongono su questi temi. Perché se i temi economici e di equilibrio geopolitico sono il nostro presente, sulla gestione dei dati e sul governo dell’intelligenza artificiale si gioca il futuro nostro e dei nostri figli!