Un deepfake è un video o un’immagine prodotta da una rete neurale che cerca di catturare perfettamente le sembianze di qualcun altro. Comunemente viene utilizzato per mappare il volto di una persona su un’altra. I deepfake rappresentano anche una minaccia reale per le aziende come tecnica di vishing – phishing che utilizza voce e video.
Una minaccia per le imprese
Nel 2019, un’azienda assicurata dal Gruppo Euler Hermes ha perso 243.000 dollari a causa di un truffatore che è riuscito a simulare la voce dell’amministratore delegato dell’azienda al telefono, chiedendo di trasferire i fondi su un conto bancario ungherese dal quale sono poi scomparsi. La stessa cosa è successa a un’altra azienda all’inizio del 2020, dove il vishing è stato usato come parte di uno schema per ingannare un direttore di banca di Hong Kong e fargli autorizzare un trasferimento di fondi aziendali per 35.000.000 di dollari. Sono emerse numerose segnalazioni di altri tentativi di deepfake vishing.
Anche LinkedIn è alle prese con deepfake di tipo diverso: non si tratta di persone di alto profilo, ma di esseri umani generati dall’intelligenza artificiale e indistinguibili dalle persone reali. I profili falsi sono stati utilizzati da alcune aziende come manovra di marketing che sfrutta la fisionomia: le foto del profilo sono professionali e attraenti, il che statisticamente le fa apparire più affidabili. Hanno poi utilizzato questi profili per vendere e promuovere servizi agli utenti reali di LinkedIn. Questa pratica ha ingannato una parte della base di utenti di LinkedIn e ha richiesto l’intervento dell’azienda, che ha bannato oltre 15 milioni di account falsi nella prima metà del 2021.
Il rapido passaggio dal lavoro d’ufficio agli ambienti aziendali online, reso necessario dalla pandemia, ha creato molte nuove vulnerabilità che i malintenzionati possono sfruttare. Chi non ha familiarità con il panorama digitale può essere addestrato a riconoscere una vasta gamma di tentativi di criminalità informatica, ma i deepfake rappresentano una minaccia sofisticata e insidiosa che migliora costantemente per diventare sempre meno rilevabile. Oggi sono uno strumento importante che viene sempre più utilizzato dai malintenzionati per rafforzare i loro attacchi di phishing e di compromissione delle e-mail aziendali; quindi, è necessario sapere come riconoscere un video falso quando lo si vede.
L’Osservatorio Cyber di CRIF conferma che il pericolo di subire un attacco di phishing o un furto di dati è sempre in agguato. La circolazione dei dati nel 2022 infatti è stata molto superiore al passato, tanto che i dati trovati nel dark web sono triplicati rispetto all’anno precedente. Tra le diverse categorie di dati oggetto di attacco, gli indirizzi e-mail individuali o aziendali, le password e i numeri di telefono sono quelli che prevalentemente circolano sul dark web e pertanto più vulnerabili.
Deepfake, intrattenimento e provocazioni
La tecnologia deepfake è diventata sempre più avanzata e rappresenta una vera e propria prodezza tecnica: non solo si è in grado di simulare i volti di celebrità di alto profilo come Tom Cruise, ma anche di simulare accuratamente le voci dei propri obiettivi. Tecnologie simili sono state utilizzate dalle case di produzione cinematografica per ricreare le sembianze degli attori, ad esempio con la CGI (computer generated imagery) di Carrie Fisher e Peter Cushing nella saga di Star Wars, ma su Internet esistono strumenti come Lyrebird che consentono a chiunque di creare deepfake di alta qualità di chiunque desideri.
Per creare un deepfake credibile, il creatore deve avere accesso a molti dati campione di buona qualità, e in genere questo significa che gli obiettivi più comuni sono politici, attori e altre celebrità. Si pensi al già citato fenomeno virale DeepTomCruise, che in realtà non è Tom Cruise in persona ma un progetto di Chris Umé e Miles Fisher. Un altro caso celebre riguarda il profilo TikTok Unreal_Keanu che mostra video deepfake con le sembianze di Keanu Reeves ed è seguito da oltre 7 milioni di follower. In questi casi è evidente che si tratta di deepfake con l’intento di divertire ed intrattenere, ma mostra il rischio che le celebrità già corrono.
Una chiara provocazione è invece il video deepfake postato su Instagram di Mark Zuckerberg che si vanta di come la piattaforma “possiede” i suoi utenti, creato in risposta al rifiuto di Facebook di rimuovere un video falsificato di Nancy Pelosi. La domanda provocatoria che l’autore del video pone è: come reagirebbe Facebook se fosse il suo fondatore ad essere manipolato?
Più preoccupanti sono i video deepfake del presidente ucraino Zelensky che chiede alle sue truppe di arrendersi, o i video deepfake di Elon Musk che promuove una nuova criptovaluta che in realtà è una truffa per ingannare gli investitori. Questi ultimi esempi mostrano i pericoli dei deepfake, che rischiano di diffondere fake news e portare a gravi conseguenze anche nella vita reale.
Come identificare i deepfake
Dato il potenziale danno che i deepfake possono causare, è importante sapere come individuarli. Ecco alcuni metodi:
- Controllare le incongruenze: uno dei modi più affidabili per individuare un deepfake è quello di cercare le incongruenze nel video. Ad esempio, si può notare che la bocca della persona non corrisponde alle parole che sta pronunciando o che gli occhi non sbattono in modo naturale. Altre incongruenze da tenere d’occhio sono l’illuminazione o le ombre insolite, le distorsioni nel video o qualsiasi cosa che sembri “fuori posto” nell’aspetto generale del video.
- Cercare elementi artificiali: la tecnologia deepfake si basa sull’intelligenza artificiale e su immagini generate al computer, e questi elementi possono essere visibili nel video. Ad esempio, si può notare che alcuni oggetti sono innaturalmente lisci o nitidi, o che ci sono leggere distorsioni nel video che sembrano il risultato di una manipolazione al computer.
- Analizzare l’audio: l’audio può essere un altro segno rivelatore di un deepfake. Ad esempio, si può notare che la voce della persona non suona bene o che c’è un leggero ritardo tra i suoi movimenti e l’audio corrispondente. Inoltre, alcuni strumenti di deepfake prevedono la sostituzione della voce originale con una voce sintetizzata, che potrebbe quindi mancare di naturalezza o sembrare robotica.
- Controllare il contesto: un altro modo per individuare un deepfake è considerare il contesto del video. Ad esempio, se il video mostra una persona che fa qualcosa di insolito per lei o se mostra un evento che si sa non essere accaduto, è bene dubitare della legittimità di ciò che si sta vedendo.
- Utilizzare software e strumenti specializzati: alcune aziende e ricercatori hanno sviluppato software che aiutano a identificare i deepfake; tuttavia, vale la pena notare che questi strumenti non sono infallibili e dovranno tenere il passo con i continui miglioramenti della tecnologia deepfake.
Conclusioni
È importante notare che anche con questi metodi può essere difficile individuare un deepfake e potrebbe diventarlo ancora di più. Tuttavia, conoscendo i potenziali segnali di un deepfake e rimanendo aggiornati sui metodi più recenti per individuarli, è possibile proteggersi meglio da frodi, phishing e diffusione di disinformazione.
In conclusione, i deepfake sono una preoccupazione crescente per le aziende ed è importante sapere come individuarli. Verificando le incongruenze, cercando elementi artificiali, analizzando l’audio, controllando il contesto e utilizzando software e strumenti specializzati, è possibile aumentare le possibilità di identificare un deepfake e proteggersi dai potenziali danni che può causare.
