deepfake e post-verità

Amazon, finti account Twitter contro il sindacato: troll o satira? Di chi fidarci?

Mentre il sindacato prova a far breccia in Amazon, su Twitter si moltiplicano gli account in difesa dell’azienda. Cosa c’è dietro? Il problema è che è ormai sempre più difficile non essere ingannati dalle menzogne online, ma anche che a volte siamo noi a sembrare più falsi di un bot. Il dilemma è filosofico e politico

07 Apr 2021
Lorenza Saettone

Filosofa specializzata in Epistemologia e Cognitivismo, PhD Student in Robotics and Intelligent Machines for Healthcare and Wellness of Persons

Microsoft-deep-fake-1

Mentre in Alabama si attende l’esito del voto per il primo sindacato atto a rappresentare e tutelare l’interesse di milioni di dipendenti Amazon, su Twitter dilagano account fake che, con ardore, difendono le splendide condizioni lavorative che l’azienda-col-sorriso garantirebbe a ogni dipendente. Usati anche foto fasulle create con deepfake.

Le domande si affastellano. Si tratta di un tentativo dell’azienda stessa per gettare caos e indebolire le richieste? Semplici troll? O satira per fiancheggiare la protesta? In ogni caso, si preannunciano scenari inquietanti. La disinformazione e la menzogna online stanno diventando sempre più brave a mentire. Di cosa ci si potrà fidare se ormai i bot hanno foto e contenuti realistici?

Una manovra di Amazon?

L’idea che sia tutta una manovra di Amazon non nasce dal nulla. Nel 2018 la Big Tech aveva creato una serie di account twitter perché, durante le ore lavorative, alcuni dipendenti del magazzino facessero propaganda per l’azienda, Amazon aveva dichiarato che si trattava solo di far sapere le vere condizioni di lavoro, tramite gli occhi dei lavoratori stessi: gli FC Ambassador. Insomma, non era pubblicità ingannevole quella twittata dai lavoratori, anche se, da destinatari dubitiamo fortemente si trattasse di nuda e cruda verità. Un po’ come le decisioni per plebiscito non possono che acconsentire a ogni proposta, così i lavoratori non scriverebbero contenuti anti-Amazon rischiando il posto. Il programma, come riporta la stessa rivista MIT Technology Review, fallì. Intanto gli utenti si erano accorti della manovra di Amazon, rispondendo con tweet palesemente iperbolici e sarcastici, prendendo in giro il cosiddetto “FC ambassador program”.

WHITEPAPER
Una guida al deep learning: cos’è, come funziona e quali sono i casi di applicazione
Intelligenza Artificiale
Robotica

Ecco perché non pare nuovo lo scenario di settimane fa. Alcuni hanno supposto che dietro ci fosse la stessa Amazon, la quale, per confondere le acque, avrebbe creato, tramite AI, un’orda di profili twitter tesi a criticare i sindacati e a tessere le lodi dell’azienda statunitense. Amazon avrebbe però smentito la notizia e, secondo alcune indagini, sembra che la Big Tech dica il vero.

Identità e intelligenza artificiale

Che sia satira o meno, la notizia di utenti fake che possono ormai “metterci la faccia”, una faccia generata con tecnologia deepfake, è abbastanza perturbante. Fino ad ora un profilo falso appariva subito palesemente fake. Aveva un nome strano, zero fotografie, amici random, creato da troppo poco, in breve era sufficientemente anonimo da poterne dubitare.

Il troll poteva creare un account con cui gettarsi in flame senza fine rubando immagini da soggetti reali, o occultandosi dietro foto anonime. L’identità del “falsario” era un gattino, un fiore o, per i più pigri, l’omino grigio che non ha ancora cambiato l’immagine del profilo.

La scelta del nome ha sempre permesso un margine maggiore di creatività: questo era il libero arbitrio concesso ad Adamo già prima della caduta. Il troll poteva scegliere di crearsi un avatar credibile, come se fosse il personaggio di un romanzo, oppure poteva decidere per qualche gioco di parole, alla maniera di Bart Simpson quando faceva gli scherzi al telefono al povero Boe. Ormai, però, l’identità è un qualcosa che si può generare ex nihilo grazie alle potenzialità offerte dall’intelligenza artificiale.

Landini (Cgil): “Contro il caporalato digitale, un’azione collettiva a tutela dei diritti”

L’intelligenza artificiale, dopo aver “osservato” migliaia e migliaia di volti umani, è in grado di crearne di nuovi. Insomma, conosce l’essenza di uomo e può produrre infinite versioni di essa. Anticiperà qualche faccia? Ci riconosceremo in un fake-sosia come oggi scoviamo le somiglianze tra la maestra delle elementari e il personaggio di un quadro del ‘500? Il problema è che è ormai sempre più difficile non essere ingannati dalle menzogne online. Il volto non è più una prova, ma è l’ulteriore elemento con cui essere ingannati.

Il software “generated photos” e la questione della fiducia

Rosebud Ai sta creando un generatore di facce chiamato generated photos. Attraverso il software è possibile personalizzare i volti, crearne di nuovi, adattarli ai vari corpi. Tutti gli esemplari vengono poi salvati in un database consultabile pubblicamente: questo per avere un documento che certifichi che la persona online sia un deepfake. Generated photos vuole essere un modo per aggirare il copyright, postando immagini senza dover chiedere il permesso ai soggetti ritratti (che non esistono) tuttavia lo strumento può diventare un facile alleato della disinformazione.

Come sostiene Aric Toler, investigatore digitale, il problema è che si rischia di non credere più ai media in generale. Siccome sempre più spesso siamo ingannati, siccome la disinformazione porta a recrudescenza divisioni, razzismo, odio, fomentando i gruppi estremisti, si finisce per attribuire il problema al web. È ovvio, il cattivo uso dei mezzi di informazione non deve squalificare gli strumenti digitali come se in sé fossero un male, ma è altrettanto comprensibile la reazione degli esseri umani di rifiuto generalizzato.

In quanto esseri umani ci nutriamo di testimonianze. La cultura esiste perché ci affidiamo a quanto ci viene tramandato. Se non ci fidassimo mai di quello che ci viene raccontato, saremmo immobili. Ogni individuo dovrebbe sempre reinventare la ruota. Non esisterebbe né linguaggio né pensiero. Certo, fidarsi è un rischio, ma rigettare la testimonianza è ancora più deleterio per la nostra specie.

Video e social, arma a doppio taglio nella lotta per i diritti civili

Se non ci si può fidare del volto, cosa ci resta? Non di certo cosa si posta online, e nemmeno le certificazioni. Mi dici che sei un astronauta? Su cosa me lo giuri? Su Margherita Hack(er)? Si può falsare quasi tutto. OpenAI è in grado di generare qualunque tipo di testo da un breve spunto iniziale. Ho letto esempi strabilianti di GPT-3. Nemmeno una videochiamata ci salverà dal catfishing. I deepfake in tempo reale sono già una realtà. Su Zoom è apparso in alcune call Elon Musk, o chi per lui. Presto GPT-3 sarà meno costoso e l’IA creerà video falsi molto più verosimili. Addirittura, la tecnologia CRISPR sta trasformando il futuro dei processi penali. Potendo intervenire con precisione chirurgica sul proprio genoma, nessuna prova del DNA sarà più cruciale.

Non è l’intelligenza artificiale a ingannarci

Mentire presuppone la consapevolezza di stare mentendo. Allora da questo punto di vista l’Intelligenza Artificiale non mente! A ingannarci sono solo gli esseri umani; sono dietro alle tecnologie di AI sfruttate per disinformare, dietro a false donazioni di Costantino, a footage e fotografie di fatti mai esistiti o celati, come la propaganda nazista in merito ai campi di concentramento, in cui veniva narrata una falsa situazione di soggiorno etico nel campo, o il film sulla buona condizione degli ebrei a Theresienstadt, vicino Praga.

La menzogna è ciò che ci discrimina da un computer. Il test di Turing non può mai avere senso. È un paradosso. Quando l’interlocutore si accorge che sta interagendo con una macchina, allora comprende il retroscena di inganno dello sviluppatore; quando l’intento menzognero riesce e l’essere umano crede di avere a che fare con un altro uomo, in realtà ha perfettamente ragione. L’inganno è ciò su cui si regge il Test. Non esisterebbe se non ci fosse un uomo consapevole di star mentendo e di usare la tecnologia per trarre in inganno gli altri.

Il problema non è l’inganno in sé, che esiste dai tempi della fionda. Il problema è che sarà sempre più facile e alla portata di tutti creare falsi quasi perfetti. Ma chi ne usufruirà di più? Democrazie o dittature? Come sostiene il politologo John J. Mearsheimer nel saggio Why leaders lie, le democrazie tendono a mentire di più perché si basano sul consenso popolare. Pertanto, quando un leader ha intenzione di fare guerra o di far approvare una legge inventa finte necessità, costruisce fatti con cui ottenere l’appoggio della massa. Un despota fa quello che vuole e non deve giustificarsi con un popolo privo di peso politico. I deepfake, allora, diventano un problema soprattutto per il nostro occidente democratico, costruito sulla sovranità popolare e non perché prima non fosse così, anzi. I politici da sempre sfruttano il cosiddetto fear-mongering: la politica del terrore. Esagerano i pericoli, costruiscono il nemico per motivare grandi stragi e restare difensori della pubblica sicurezza, eroi senza macchia.

E se ci stessimo trasformando noi in bot?

Esistono modi per non sembrare noi più falsi di un bot? Lo scenario è proprio quello che, al migliorare dei deepfake, noi diventiamo sempre più contraffatti. Ormai fatico a discernere un fan da un utente-fan robotico. Entrambi postano compulsivamente, entrambi commentano compulsivamente e sgrammaticato, entrambi utilizzano formule codificate, risposte standardizzate, uno slang colmo di pregiudizi, basato su divisioni “noi-loro”. Chi ha fatto scuola? È il robot che ha insegnato come essere perfetti follower ideologizzati, amplificatori di bufale? Ormai la modalità d’azione dei sock puppets, gli utenti apparentemente reali, ma gestiti tramite software, è la più tipica attività online.

“Unions are valuable tools at companies that don’t provide good pay and benefits like Amazon does. We simply don’t need them here” @AmazonFCDarla (I sindacati sono strumenti preziosi per le aziende che non provvedono buone paghe e benefit come invece fa Amazon) è uno dei tweet incriminati, prodotto da uno dei fake account bloccati da Twitter. Scherzo o meno, questa frase è sovrapponibile a quella di ogni discorso da tifoseria tipico dell’essere umano. Il rischio, dunque, è quello che mentre i bot evolvono, noi ci plastifichiamo sotto i filtri bellezza. Diventiamo sempre più unilaterali, figli della moda, linguistica, estetica, morale e addirittura emotiva. Schiacciati dalla sintassi, il contenuto è mettersi in scia. Attenzione, allora, al pensiero elementare, al fanatismo, alla condivisione compulsiva, al sostegno di certe ideologie. Sono tutti comportamenti da fake account o, comunque, da soggetti “facili alla manipolazione”.

WHITEPAPER
Automazione e validazione dei software? L'AI fa la differenza!
Intelligenza Artificiale
Software
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati