La manipolazione dei video non è più soltanto un esperimento tecnologico o un gioco da piattaforma. Quando un falso appare credibile, può trasformarsi in un attacco alla reputazione, in uno strumento di inganno pubblico o in un problema per la stessa libertà di parola.
Indice degli argomenti
Quando un video falso può diventare un danno reale
Con “video falsificati” intendiamo prodotti di tecniche grazie alle quali un video reale viene modificato per far sembrare che le persone facciano o dicano qualcosa di diverso da quello che hanno realmente fatto o detto. Un video falsificato può mostrare una persona che sostiene una causa che invece disapprova, che commette un crimine, che mostra disprezzo per il proprio paese, che agisce in maniera inappropriata quando non ha fatto nulla del genere, o che è ubriaca o non in sé per altre ragioni. In qualche caso, i video falsificati sono molto credibili, nel senso che chi li guarda non pensa che siano stati manipolati. Possono rivelarsi dannosi, fuorvianti, manipolativi o calunniosi. Qui parlerò principalmente di deepfake, ma l’analisi vale più in generale per tutti i video falsificati.
Per orientarci, e per avere un senso di quello che esiste ed è destinato a peggiorare ulteriormente, e molto, prendiamo in considerazione qualche caso ipotetico.
Esempi di deepfake e video falsificati
– Jane Jones è un’insegnante di scuola superiore. Un deepfake la mostra in una situazione romantica con uno studente.
– Philip Cross è candidato a una carica pubblica. Un deepfake lo mostra esaltare Hitler e l’Olocausto.
– John Simons ha ottant’anni. In un deepfake lo si vede prendere una “pillola energetica” e poi competere, agguerrito e con buoni risultati, in una partita di basket.
– Un deepfake mostra i Beatles che eseguono brani di Taylor Swift.
– Un deepfake mostra la Monna Lisa che parla come una adolescente.
– Un deepfake mostra un Labrador retriever che balla come Michael Jackson.
– Un deepfake mostra il procuratore generale degli Stati Uniti ubriaco e disorientato.
Si può pensare che, in base alla decisione della Corte Suprema degli Stati Uniti nel caso Alvarez, i deepfake non dovrebbero e non possano essere sottoposti a una regolamentazione semplicemente perché sono deepfake. Sono falsità, quindi frutto della fantasia e, in quanto tali, non sono perseguibili a meno che non causino danno. Lo causano?
Deepfake e danno alla reputazione
Per le persone che vengono usate nei deepfake, il danno assume la forma di danno alla reputazione. Un deepfake può essere favorevole o innocuo, ma può anche essere una forma di diffamazione (o qualcosa che ci assomiglia molto); può esporre le persone al ridicolo o al disprezzo nelle loro comunità. In effetti, può essere devastante. Una persona può essere rappresentata nel modo più orribile che si possa immaginare, che si parli di stupidità, criminalità, corruzione o malvagità (o di qualcosa che ha a che vedere con il sesso). Se un deepfake è diffamante, o il suo contenuto verbale equivale a una calunnia, può essere l’individuo preso di mira, può colpire la comunità, per esempio screditando una persona candidata a una carica pubblica e di conseguenza distorcendo il processo democratico. È un punto che dobbiamo sottolineare. Quando viene diffamato uno di noi, molti di noi possono essere colpiti.
I deepfake in quanto tali, però, non sono necessariamente diffamatori. Come abbiamo visto, possono anche essere positivi: possono far sì che le persone appaiano ammirevoli o meravigliose. Per quel motivo possono essere menzogneri o manipolativi. Per esempio, possono mostrare un politico, un attore o un professore interessato al tema della manipolazione, che giocano a tennis o a golf a livello professionale. Possono presentare una figura pubblica (poniamo, un candidato a una carica pubblica) che fa qualcosa di ammirevole o di eroico. Anche questo può essere dannoso. Un deepfake può non rispettare la capacità di scelta riflessiva e deliberativa delle persone. È ovviamente una forma di raggiro.
Quando il falso non provoca danno
Se le persone non credono che un deepfake sia reale, ovviamente, non ci sarà danno. Se un gruppo rock degli anni Sessanta (due dei cui componenti sono morti) viene rappresentato mentre esegue brani di una musicista contemporanea, abbiamo davanti qualcosa di stravagante, di umoristico o di satirico – tutte cose che devono essere protette secondo il Primo Emendamento. Il rischio di danno sorge se e quando le persone pensano che ciò che vedono sia realmente accaduto. Se una persona viene mostrata falsamente in una situazione romantica o mentre sostiene una posizione politica a cui invece è avversa, di fatto può subire un danno.
Sotto questa luce, consideriamo l’affermazione seguente.
La possibile regolamentazione dei deepfake
Il governo può e deve regolare o proibire i deepfake, nel rispetto della protezione della libertà di parola, se (1) non è ragionevolmente ovvio o dichiarato esplicitamente e in modo ben visibile che si tratta di deepfake, e se (2) creano un grave danno di reputazione.
Si noti che (2) si basa sulla legge esistente sulla diffamazione.
Ecco una risposta possibile, ispirata dall’opinione prevalente nel caso Alvarez: la risposta migliore a un deepfake sono contro-discorso e trasparenza, non la censura. Questo vale sia per le organizzazioni private, sia per i funzionari pubblici. L’idea di “danno alla reputazione” è troppo vaga.
Il ruolo delle piattaforme social
Un fornitore di social media, come YouTube o Meta, può concluderne che agli utenti della piattaforma deve essere reso noto che i deepfake sono tali. Può respingere l’idea che i video falsificati debbano essere rimossi dalla piattaforma. Può dedurre che gli utenti devono poter vedere quei video, purché ricevano l’informazione che devono metterli in prospettiva. Come ha scritto la maggioranza della Corte Suprema nel caso Alvarez, “il rimedio per un discorso falso è un discorso vero. Questo è il modo in cui devono andare le cose in una società libera”. Alcune piattaforme di social media a volte hanno adottato una impostazione di questo tipo, imponendo la presenza di indicazioni per i media manipolati (e anche rimuovendo tweet quando “è probabile che causino danno”).
Per quanto riguarda la legge costituzionale, si può dire qualcosa di simile a proposito di ciò che i governi possono fare. Forse dovrebbe essere richiesto che scelgano l’approccio che protegge al massimo la libertà di parola. Nel caso Alvarez, per esempio, la maggioranza della Corte Suprema spiegava: “Il governo non ha dimostrato, e non può dimostrare, perché il contro-discorso non sarebbe sufficiente a tutelare i suoi interessi. I fatti di questo caso indicano che la dinamica di libertà di parola, contro-discorso, confutazione possono ovviare alla menzogna”. E aggiungeva: “Esiste, tuttavia, almeno un mezzo meno restrittivo della libertà di parola con cui il governo potrebbe probabilmente proteggere l’integrità del sistema di onorificenze militari. Un database creato dal governo potrebbe elencare tutte le persone insignite di una Medaglia d’onore del Congresso. Se esistesse un database del genere, accessibile via Internet, sarebbe facile verificare e denunciare le false affermazioni”.
Deepfake, libertà di parola e limiti del contro-discorso
Sarebbe estremamente difficile, però, difendere l’idea che questa sia una risposta sufficiente nei confronti dei deepfake. Supponiamo che una persona venga rappresentata mentre fa qualcosa che non ha mai fatto o sostiene una posizione che invece disapprova. Se così fosse, un database accessibile non avrebbe molte possibilità di eliminare il danno. Forse l’approccio protettivo della libertà di parola sarebbe una divulgazione chiara, che informi le persone, prima che vedano il video, che è un falso. Nel caso Alvarez, non dovrebbe esistere una barriera costituzionale a quel tipo di controllo sui deepfake, almeno nel caso di indicazioni sufficienti di danno, e la stessa analisi vale per i video manipolati.
Quali elementi costituirebbero un’indicazione sufficiente? La diffamazione è una buona risposta, ma non è l’unica. Se le persone finiscono per avere l’impressione che una persona abbia fatto qualcosa che in realtà non ha fatto, può esserci danno per quel preciso motivo. E così è ogniqualvolta un deepfake fa sì che le persone credano che qualcuno ha fatto qualcosa che non ha fatto.
