Deep Nostalgia non è un giochetto, ma la nuova arma della post-verità - Agenda Digitale

la riflessione

Deep Nostalgia non è un giochetto, ma la nuova arma della post-verità

Deep Nostalgia mira a riportare in vita il passato. Animando le fotografie è la nuova frontiera del falso. Saremo ancora in grado di riconoscere il vero passato da quello falsificato con l’intelligenza artificiale?

19 Mar 2021
Francesca Michetti

PHD in Business and Behavioral Science - 'G.D'Annunzio' University; Master Degree in Law - LUISS Guido Carli University

Deep Nostalgia, guai a considerarlo solo un giochetto. Il servizio basato su intelligenza artificiale per animare fotografie è la nuova frontiera del falso. Se i deepfake mettono in bocca parole mai dette e fanno mostrare azioni mai compiute, Deep Nostalgia mira a riportare in vita il passato.

Più dei deepfake, si gioca sulle nostre emozioni. E così massima cautela è richiesta nell’approcciare e giudicare il servizio.

Deep Nostalgia: come funziona

Deep Nostalgia è il nuovo servizio online lanciato da MyHeritage, società israeliana specializzata in ricerche genealogiche, in collaborazione con la startup D-ID. Dopo FaceApp, l’app per invecchiare o ringiovanire i volti nelle foto, il nuovo software di AI si spinge oltre. In pochi clic le vecchie foto prendono vita, con risultati sorprendentemente realistici, a tratti inquietanti. Vedrete i vostri antenati sorridere, ammiccare e girare la testa. Il futuro riporta in vita il passato.

WHITEPAPER
Certificazioni GDPR: tutti i vantaggi per le organizzazioni che vi aderiscono
Legal
Privacy

La tecnologia è stata concessa in licenza da D-ID, una società specializzata nella ricostruzione video delle fotografie tramite il deep learning. Il funzionamento è semplice: si carica la foto che, in pochi secondi, viene trasformata in un mini-video nel quale il soggetto ritratto muove gli occhi e la bocca, ruota il collo, insomma, prende vita. E l’esperimento funziona in modo sorprendente. Provare per credere.

Il sistema utilizza dei video pre-registrati messi a punto dalla società come modello di base dei movimenti facciali da applicare all’immagine fornita[1]. Per creare il database  di gesti sono stati utilizzati attori veri, per lo più dipendenti dell’azienda, che hanno prestato le loro movenze. Inizialmente, si legge tra le FAQ del sito, l’applicazione sceglie una sequenza predefinita in base all’orientamento e all’inclinazione del volto, poi l’utente può scegliere tra i modelli già creati da MyHeritage e cambiarli in qualsiasi momento. Il servizio è gratuito per le prime cinque immagini caricate; chi paga un abbonamento ha la possibilità di creare animazioni senza limiti.

Caccia al deepfake, Intelligenza artificiale al lavoro (contro sé stessa)

MyHeritage aveva già usato la tecnologia di Deep Nostalgia per animare Abraham Lincoln: nel video, lo storico presidente degli Stati Uniti esplorava il suo albero genealogico e lo raccontava agli spettatori. Il servizio è poi diventato virale sui social media, dove spopolano versioni animate di vecchie foto di famiglia, ed è un  esempio lampante di come la manipolazione delle immagini basata sull’intelligenza artificiale stia diventando sempre più mainstream[2].

Reazioni miste alla funzione di MyHeritage: il risultato sorprende e, al contempo, inquieta. Il servizio è pensato “per un uso nostalgico” ha precisato MyHeritage nelle FAQ del proprio sito. “Vedere i volti dei nostri antenati prendere vita in una simulazione video ci permette di immaginare come sono esistiti nella realtà e offre un nuovo modo di connetterci alla nostra storia famigliare[3] ha spiegato in un comunicato Gilad Japhet, fondatore e Ceo di MyHeritage.  D’altra parte, come afferma Hany Farid, capo School of Information alla UC Berkeley, “Siamo esseri visivi. Quando vedi tua nonna o Mark Twain prendere vita, c’è qualcosa di affascinante[4].

 

Deep Nostalgia o… Deepfake?

Prima facie, la tecnologia di Deep Nostalgia sembra assimilabile a quella dei deepfake, i falsi media generati dall’intelligenza artificiale che negli ultimi tempi spopolano sul web. Ma c’è una differenza[5]. Il deepfake è così chiamato perché utilizza la tecnologia Deep Learning (DL) – un ramo del Machine Learning che sostituisce un volto in un’immagine o un video esistente con un altro volto[6]. Deep Nostalgia, invece, non sovrappone un volto su un altro ma “applica” il movimento su uno scatto. E, cosa più importante, MyHeritage specifica come la scelta di escludere l’audio (nonostante le possibilità di ricreare anch’esso artificialmente) sia dettato proprio dalla volontà di prevenire abusi, come la creazione di video deepfake di persone viventi. Per lo stesso motivo, le animazioni non possono essere personalizzate, limitando le scelte degli utenti a pochi esempi predefiniti, e tutti molti circoscritti a piccoli movimenti del volto, minimamente espressivi.

La nuova frontiera del falso

Sebbene alcuni utenti si siano dilettati ad utilizzate foto di antiche statue, dipinti come la Gioconda e scatti di personaggi celebri, da Charles Darwin a Leonardo da Vinci, Deep Nostalgia è un’applicazione pensata soprattutto per un uso privato, più intimo. Tuttavia, il risultato finale, lungi dall’essere autentico, appare piuttosto una simulazione tecnologica del modo di muoversi o compiere gesti della persona defunta. Inoltre, talvolta si rende necessario simulare parti del corpo – come denti ed orecchie – o includere accessori, come un cappello, che non compaiono nella foto originale, motivo per cui la qualità del risultato finale può variare.

Ad ogni modo, un servizio di questo tipo lascia ben intravedere quale sia il potenziale dell’Intelligenza Artificiale in contesti a così alto impatto emotivo. Un modo stupefacente per (ri)scoprire il volto di persone care, vissute in un’epoca in cui non era possibile immortalarle con gli smartphone. Ma, al contempo, non sfugge il tentativo “umano, troppo umano” (Nietzsche, 1878) di sfidare, seppur virtualmente, il tempo e la morte, dando la percezione che persone scomparse possano tornare nuovamente tra noi. Un risultato che può emozionare e, al contempo, far rabbrividire. Una tecnologia da gestire, dunque, con la massima cautela.

E la privacy?

Ancora una volta – come già accaduto di recente con la celebre FaceApp –mentre ci commuoviamo davanti alla foto di un defunto che torna a sorridere o a guardarci, MyHeritage accumula ingenti quantità di dati personali e biometrici. Sorgono, dunque, numerosi interrogativi sulla privacy e sulla sicurezza del servizio.

Per utilizzarlo gratuitamente, è necessario registrarsi su MyHeritage, tramite un indirizzo e-mail e la compilazione dei dati personali, e accettare i termini e le condizioni dell’azienda. Sul sito si legge che “l’animazione e il miglioramento si verificano sui server di MyHeritage e né le foto né i video sono condivisi con terze parti.” Inoltre, le foto caricate senza completare la registrazione sono cancellate automaticamente per proteggere la privacy degli utenti. Da non trascurare, poi, le questioni etiche e legali, poiché ricordiamo che vengono utilizzate le foto di soggetti che non hanno prestato il loro consenso.

Sul fronte della cybersecurity, si ricorderà che nel 2018 MyHeritage è stata vittima di un data breach che ha coinvolto oltre 92 milioni di utenti. In quella circostanza l’azienda ha affermato che i dati sul DNA e sulle carte di credito degli utenti non erano stati compromessi, poiché archiviati in sistemi separati con livelli di sicurezza aggiuntivi.

Ad ogni modo, per quanto questo genere di servizi raccolga dati al solo scopo – o almeno così riporta il claim pubblicitario – di ricostruire e far “rivivere” il nostro albero genealogico, non bisogna trascurare l’alto rischio per la protezione di dati personali – alcuni particolarmente sensibili (come il DNA) – degli utenti, soprattutto per i modi imprevedibili in cui potrebbero essere sfruttati.

Non a caso Guido Scorza, del Garante Privacy, ha scritto che è meglio dare foto storiche e non le proprie a Deep Nostalgia.

Il futuro della verità

Le tecnologie per alterare – o per creare da zero – immagini, video e/o audio in modi altamente realistici e difficili da rilevare sono in costante e rapida evoluzione[7]. Nell’era della disinformazione e della “post-verità” (Albright, 2017)[8] sarà ancora più facile credere che quello rappresentato sia il modo in cui le persone apparivano in passato.

Siamo solo agli inizi di un percorso che produrrà nel futuro una crescente difficolta, se non addirittura l’impossibilità, di distinguere il vero dal falso. Vedere per credere, l’antico detto ce lo insegna, ma come riconoscere se ciò che vediamo è reale?  Secondo Matthew Turek, program manager della Defense Advanced Research Projects Agency (DARPA), “potremmo essere diretti verso un ambiente zero-trust[9] nel quale le persone dubiteranno di tutto, persino di quello che vedranno con i propri occhi.

Educazione al pensiero critico, antidoto ai mali della post-verità

Quel che è certo, al di là di tutto, è che l’intelligenza artificiale sta facendo passi da gigante. Ma l’ampia disponibilità e la facilità d’uso di queste tecnologie non dovrebbero impedirci di valutare criticamente non solo le opportunità ma soprattutto i rischi che esse portano con sé.

————

Note e bibliografia

[1]https://www.myheritage.it/deep-nostalgia

[2] Hern A. (2021). Deep Nostalgia: ‘creepy’ new service uses AI to animate old family photos. The Guardian. Available at https://www.theguardian.com/technology/2021/mar/01/deep-nostalgia-creepy-new-service-ai-animate-old-family-photos

[3] Wakefield J. (2021). MyHeritage offers ‘creepy’ deepfake tool to reanimate dead. Available at https://www.bbc.com/news/technology-56210053

[4] Nambiar A. (2021). Can Deep Nostalgia Turn Into Another Deepfake Fiasco? Available at https://analyticsindiamag.com/can-deep-nostalgia-turn-into-another-deepfake-fiasco/

[5]  Londei M. (2021) MyHeritage e Deep Nostalgia: l’app che anima i volti delle foto. Available at https://systemscue.it/myheritage-deep-nostalgia-app-anima-foto/29402/

[6] Sample I. (2020). What are deepfakes – and how can you spot them? The Guadian. Available at https://www.theguardian.com/technology/2020/jan/13/what-are-deepfakes-and-how-can-you-spot-them

[7] Chesney R., Citron, D. K. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security ,107 California Law Review, pp. 1753-1820.

[8] Albright J. (2017). Welcome to the era of fake news. Media and Communication, 5, pp. 87-9.

[9] Huston P., Bahm Eric. (2020). Deepfakes 2.0: The New Era of “Truth Decay”. Available at https://www.justsecurity.org/69677/deepfakes-2-0-the-new-era-of-truth-decay/

WHITEPAPER
Gestione dei contratti e GDPR: guida all’esternalizzazione di attività dei dati personali
Legal
Privacy
@RIPRODUZIONE RISERVATA

Articolo 1 di 4