big tech e potere

Social network, quando la manipolazione diventa sovversiva



Indirizzo copiato

Recenti elezioni sono state viziate da intromissioni di social media che hanno prodotto un effetto di disturbo e condizionamento della volontà popolare. È ammissibile che app di comunicazione entrino nel campo della rappresentatività democratica di un Paese? E quali regole servono per stabilire i confini di queste potenze sovranazionali?

Pubblicato il 6 lug 2023

Emiliano Mandrone

Primo ricercatore Inapp



AI Questions Icon
Chiedi all'AI
Riassumi questo articolo
Approfondisci con altre fonti
Golden Power




Il cittadino Kane non ha fatto in tempo a imparare a difendersi dai media[1] che deve già fronteggiare le sfide dei social. “La digitalizzazione della società produce effetti che vanno molto al di là delle seducenti promesse di crescita ed efficienza economica” (Lettieri e Donà, 2020), e ormai pervadono tutta la vita delle persone.

Il condizionamento dei social sulla società

Il condizionamento che i social media possono produrre sui sistemi democraticamente costituiti è sovversivo quando è reso in maniera opaca, con l’uso disinvolto di dati personali e strategie di persuasione derivanti da tecniche psicologiche al limite della circonvenzione.

Quando organizzazioni non politiche assumono una valenza politica si creano gravi conflitti di competenze. Possono sistemi improntati sulla spiritualità (come la Chiesa) o lo svago (come Instagram, TikTok, YouTube) o le relazioni (come Facebook, LinkedIn) o le informazioni (come Google, Wikipedia) intervenire sul dibattito democratico di un Paese, parteggiare o boicottare un candidato, produrre regole proprie soverchianti gli usi locali e strumenti di persuasione del mercato che debordano nella manipolazione? Recenti contese elettorali sono state macchiate da intromissioni di social media che hanno sicuramente prodotto un effetto di disturbo, di condizionamento della volontà popolare, una indebita intromissione. È ammissibile che app di comunicazione entrino a giocare nel campo della rappresentatività democratica di un Paese?

Come stabilire i confini dell’influenza di social globali

La dimensione digitale supera di slancio la geografia e le legislazioni nazionali. Implicitamente, surrettiziamente o legalmente i termini di azione degli attori digitali sono superiori e autonomi rispetto ai confini dei Paesi e alle loro giurisdizioni. Soggetti sovrannazionali, con sedi in paradisi digitali, si danno condotte e regole che assumono, di fatto, rango di norme social(i). Possono attivare sistemi di sostegno o di discredito verso individui, movimenti, aziende o singole persone attraverso meccanismi di contatto ossessivi o aggressive strategie di marketing. Qual è il confine della loro azione e a chi spetta farlo rispettare?

Assai lentamente, la Commissione Europea sta cercando di definire nuovi confini digitali, norme sui dati raccolti e utilizzati, indicazioni su come processare dati e informazioni… è in corso una sorta di pan-social-ismo, inteso come l’unione dei social. Già si riconoscono, si autenticano, fanno vicendevolmente da garante. Battono moneta. Il World Wide Web si sta dividendo in 3-4 alleanze – sia sui contenuti che sulle tecnologie – segnate da reciproca ostilità: la placca americana si sta dividendo da quella europea, quella asiatica spinge forte e quelle locali entrano nel loro campo di influenza. Le scosse di assestamento digitali dureranno a lungo.

La costituzione di queste sfere di influenza crea unioni di utenti che, incidentalmente, sono anche cittadini di Stati, i cui diritti e doveri sono disciplinati in ambito analogico in un modo che può non essere conforme con quello digitale. Modificando il set informativo, le immagini, i commenti su persone o cose, senza tecnicamente violare le leggi producono effetti reali su persone e economie e democrazie… il virtuale agisce sul reale.

La narrazione dell’algoritmo cattivo è fumo negli occhi

L’algoritmo cattivo è una narrazione di comodo, fumo negli occhi. L’algoritmo ha sostituito monsieur Malaussène come capro espiatorio Mandrone (2022). Vediamola così. La lavatrice è un algoritmo primitivo. Una macchina che esegue le nostre istruzioni in base alle nostre esigenze. Può lavar bene, scolorire o durare poco. Gli algoritmi attuali sono sofisticate funzioni di ottimizzazione che eseguono le istruzioni ricevute. Come la condotta di una auto dipende da chi la guida, così l’equità algoritmica dipende da chi la controlla. Non è senziente, non gode di libero arbitrio anche se a qualcuno piace farlo credere.

Il funzionamento di uno smartphone o dell’intelligenza artificiale è incomprensibile: la tecnologia appare ai più come una black box e ciò implica aver fede con una conseguente perdita di controllo. La storia insegna che esiste una relazione tra ignoranza e paura che produce una domanda di rassicurazione – spesso fornita dal trascendente – che oggi in larga parte è soddisfatta da motori di ricerca e social che, pare, godano di vere e proprie Virtù Digitali, Mandrone (2019). Il vecchio “lo ha detto la Tv” è oggi diventato “l’ho letto su Google”!

Come cambia il ruolo del dato

Il ruolo del dato sta cambiando – da parametro di funzionamento a costituente della realtà – diventando un aspetto cruciale nella tutela dei diritti individuali. C’è una forte responsabilità sociale nei media e nei social: realizzano l’informazione, influenzano l’opinione pubblica, determinano il valore delle aziende.

La pervasività della società digitale tocca le libertà personali, le istituzioni democratiche, i set valoriali. Il Cardinal Martini, sul finire del secolo scorso, comprese la difficoltà di governare una tecnologia strabordante, esposta ad una eterogenesi dei fini così forte da renderla imprevedibile negli esiti. Serve cautela, senso della misura, quello che ha fermato alcune propaggini della fisica o della medicina: va posto un limite etico ad alcune possibilità tecnologiche? Internet si è sviluppato e ha proliferato sospeso sopra gli ordinamenti nazionali. Lo sviluppo è stato così veloce che la regolamentazione non gli è stata dietro. L’Europa, tardivamente e con difficoltà, sta legiferando per affermare per i cittadini europei diritti e sovranità digitali (Digital Markets Act e Digital Services Act).

Anche a livello di singolo cittadino è crescente il ruolo dei social media. Non a caso Acemoglu e Johnson (2023) si chiedono se le innovazioni che stanno arrivando aumenteranno anche il benessere per i cittadini e i lavoratori o sosterranno solo la produttività e i profitti delle imprese: tecno-democrazie vs. tecno-oligarchie.

Stanze dell’eco, fake news e filter-bubbles: l’era dell’inganno digitale

La naturale tendenza delle persone che la pensano allo stesso modo a stabilire una relazione – affinità elettive – sui social è esasperata: seguendo qualcuno e togliendo l’amicizia a qualcun altro, si finisce per separarsi dal resto delle persone, concentrandosi in comunità dense e autoreferenziali dette stanze dell’eco (Pariser, 2012). Così rimaniamo circondati solo da punti di vista con cui siamo d’accordo, al riparo da opinioni diverse. Siamo al paradosso: l’esito della società della comunicazione rischia di essere un individuo scisso, alieno, a-sociale. Non solo ci si separa volontariamente, ma la produzione di certe opinioni è alimentata da algoritmi che producono percorsi predefiniti in base a preferenze commerciali, simpatie politiche, cronologia delle ricerche.

Le filter-bubbles creano “un universo unico di informazioni per ognuno di noi che altera radicalmente il modo in cui incontriamo idee e informazioni”. Proponendoci in maniera ossessiva scenari distopici individuali[2].

Le fake news non sono solo tentativi ingannevoli di distogliere l’attenzione o diffondere messaggi maliziosi. La tecnologia potrà riprodurre le immagini, i contesti, le voci delle persone in maniera così fedele da renderla indistinguibile ad occhio nudo. Imbroglioni e affabulatori sono sempre esistiti e hanno usato a proprio favore la paura e l’ignoranza della gente. Ora l’inganno nel piano digitale si fa più complesso.

Conclusioni

Non è solo disattenzione o incoscienza: è proprio il tipo di inganno, di mistificazione che non è possibile identificare. La contraffazione è difficile da svelare con strumenti ordinari: non ci sono errori o marchi da verificare. Dopo aver imparato a smascherare l’analogico falso dovremo trovare il modo di difenderci dal virtuale falso, ma non sarà facile.

Note


[1] Qui si intende come media tv, radio e giornali e come social Facebook Twitter Linkedin, Youtube e Google

[2] Stati Uniti, 1938. Un programma radiofonico della CBS, intorno alle ore 20, prese ad emanare strani annunci, sempre più allarmanti. “Signore e signori, vogliate scusarci per l’interruzione ma è appena pervenuto un bollettino della IRW: alle 7 e 40 il professor Farrell dell’Osservatorio di Mount Jennings, Chicago, Illinois, ha rilevato diverse esplosioni di gas incandescente che si sono succedute ad intervalli regolari su Marte. Le indagini spettroscopiche hanno stabilito che il gas in questione è idrogeno e si sta muovendo verso la Terra ad enorme velocità”. La musica riprese ma dopo poco s’interruppe “Il nostro inviato, Carl Phillips, appena giunto sul posto, vi darà una descrizione del meteorite di Grovers Mill…”. La musica riprese ma dopo poco lasciò il posto ad un altro annuncio: “Il terreno è coperto di frammenti di alberi investiti dalla roccia ma l’oggetto non assomiglia molto a un meteorite, o almeno ai meteoriti che ho visto prima d’ora. Sembra piuttosto un grosso cilindro…”. Lo spazio musicale ricominciò ma venne ancora una volta interrotto: “Sta accadendo qualcosa! Signori e signore, è terrificante! L’estremità dell’oggetto comincia a muoversi! La sommità ha cominciato a ruotare come se fosse avvitata! La cosa deve essere vuota all’interno!”. Il susseguirsi di bollettini sconvolse la popolazione a tal punto che le cronache dell’epoca parlarono di gente in preda al panico, di psicosi di massa, di isteria collettiva. Un giovane Orson Welles inscenò la ‘Guerra dei mondi’ e fece credere agli statunitensi di essere invasi dagli alieni. Molti emuli odierni lo hanno fatto con le scie chimiche, i vaccini…

Partecipa alla community

guest

0 Commenti
Più recenti
Più votati
Inline Feedback
Vedi tutti i commenti

People&Change

Tutti
Produttività e AI
AI IN AZIENDA
AI E LAVORO
SCENARI
FORMAZIONE
CULTURA AZIENDALE
COMPETENZE
AI in azienda
Carriera
AI leadership
Leggi l'articolo Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
lo studio
Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
Leggi l'articolo Shadow AI in azienda: come governare rischi, dati e sicurezza
policy
Shadow AI in azienda: come governare rischi, dati e sicurezza
Leggi l'articolo AI e lavoro: i rischi di adottarla senza riprogettare i processi
collaborazione uomo-ai
AI e lavoro: i rischi di adottarla senza riprogettare i processi
Leggi l'articolo Diritto a un call center umano: banco di prova per il futuro con l’AI
la sentenza
Diritto a un call center umano: banco di prova per il futuro con l’AI
Leggi l'articolo Shadow AI, vietarla non basta: il problema sono i processi aziendali
scenari
Shadow AI, vietarla non basta: il problema sono i processi aziendali
Leggi l'articolo Longevità e lavoro: come riprogettare la propria carriera
scenari
Longevità e lavoro: come riprogettare la propria carriera
Leggi l'articolo People Pleaser sul lavoro: perché è difficile dire di no
lavoro e SOCIETÀ
People Pleaser sul lavoro: perché è difficile dire di no
Leggi l'articolo Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
imprese e formazione
Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
Leggi l'articolo Skills contro job title: le competenze trasformano i team nell’era dell’AI
competenze e lavoro
Skills contro job title: le competenze trasformano i team nell’era dell’AI
Leggi l'articolo Shadow AI in azienda: rischi, controlli e strumenti di governance
uso non approvato dell’AI
Shadow AI in azienda: rischi, controlli e strumenti di governance
Leggi l'articolo L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
risorse umane
L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
Leggi l'articolo Gestione del cambiamento nell’AI: strategie per un’adozione efficace
la guida
Gestione del cambiamento nell’AI: strategie per un’adozione efficace
Leggi l'articolo Team ibridi, le regole per coordinare persone e agenti IA
leader aumentato
Team ibridi, le regole per coordinare persone e agenti IA
Leggi l'articolo Dimissioni e carriera: quando e come decidere di lasciare un lavoro
scenari
Dimissioni e carriera: quando e come decidere di lasciare un lavoro
Leggi l'articolo AI leadership, come cambiare la governance delle organizzazioni
AI e organizzazioni
AI leadership, come cambiare la governance delle organizzazioni
Leggi l'articolo AI in azienda, l’adozione si blocca senza una nuova leadership
Oltre l'AI Fatigue
AI in azienda, l’adozione si blocca senza una nuova leadership
Leggi l'articolo Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
lo studio
Produttività e AI: il vantaggio cresce ai vertici, meno tra i dipendenti
Leggi l'articolo Shadow AI in azienda: come governare rischi, dati e sicurezza
policy
Shadow AI in azienda: come governare rischi, dati e sicurezza
Leggi l'articolo AI e lavoro: i rischi di adottarla senza riprogettare i processi
collaborazione uomo-ai
AI e lavoro: i rischi di adottarla senza riprogettare i processi
Leggi l'articolo Diritto a un call center umano: banco di prova per il futuro con l’AI
la sentenza
Diritto a un call center umano: banco di prova per il futuro con l’AI
Leggi l'articolo Shadow AI, vietarla non basta: il problema sono i processi aziendali
scenari
Shadow AI, vietarla non basta: il problema sono i processi aziendali
Leggi l'articolo Longevità e lavoro: come riprogettare la propria carriera
scenari
Longevità e lavoro: come riprogettare la propria carriera
Leggi l'articolo People Pleaser sul lavoro: perché è difficile dire di no
lavoro e SOCIETÀ
People Pleaser sul lavoro: perché è difficile dire di no
Leggi l'articolo Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
imprese e formazione
Master MIA a Cremona, il modello ibrido per portare l’AI in azienda
Leggi l'articolo Skills contro job title: le competenze trasformano i team nell’era dell’AI
competenze e lavoro
Skills contro job title: le competenze trasformano i team nell’era dell’AI
Leggi l'articolo Shadow AI in azienda: rischi, controlli e strumenti di governance
uso non approvato dell’AI
Shadow AI in azienda: rischi, controlli e strumenti di governance
Leggi l'articolo L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
risorse umane
L’AI accelera la conoscenza, non l’esperienza: il nuovo compito delle HR
Leggi l'articolo Gestione del cambiamento nell’AI: strategie per un’adozione efficace
la guida
Gestione del cambiamento nell’AI: strategie per un’adozione efficace
Leggi l'articolo Team ibridi, le regole per coordinare persone e agenti IA
leader aumentato
Team ibridi, le regole per coordinare persone e agenti IA
Leggi l'articolo Dimissioni e carriera: quando e come decidere di lasciare un lavoro
scenari
Dimissioni e carriera: quando e come decidere di lasciare un lavoro
Leggi l'articolo AI leadership, come cambiare la governance delle organizzazioni
AI e organizzazioni
AI leadership, come cambiare la governance delle organizzazioni
Leggi l'articolo AI in azienda, l’adozione si blocca senza una nuova leadership
Oltre l'AI Fatigue
AI in azienda, l’adozione si blocca senza una nuova leadership

Articoli correlati

0
Lascia un commento, la tua opinione conta.x