manipolazioni digitali

Come ti scovo il deepfake: le contromisure, con l’analisi forense

Identificare i volti generati attraverso la tecnica del deepfake è sempre più difficile, ma non mancano le contromisure messe in atto dagli esperti in sicurezza. Un elemento chiave delle ultime ricerche, ad esempio, sono i riflessi negli occhi dei visi sintetizzati, che hanno entropia diversa. I risvolti in ambito forense

28 Apr 2021
Ernesto Damiani

Senior Director of Robotics and Intelligent Systems Institute at Khalifa University

foto di ApolitikNow via Flickr

Oggi è relativamente facile sintetizzare automaticamente volti inesistenti o manipolare il volto reale di una persona famosa in un video, grazie all’accessibilità di grandi quantità di dati pubblici (dovuta anche all’uso incauto dei social media da parte delle celebrità stesse e dell’utenza in generale) e alla tecnica del deepfake.

Sebbene sia molto difficile scoprire i falsi, stanno emergendo nuovi metodi che potrebbero facilitare l’identificazione dei visi generati automaticamente, basati sui riflessi negli occhi.

Vediamo perché è importante soprattutto in ambito forense.

Caccia al deepfake, Intelligenza artificiale al lavoro (contro sé stessa)

Deepfake, da intrattenimento a minaccia

I “deepfake”, ovvero le immagini e i video fasulli generati tramite manipolazione digitale, sono diventati una fonte di intrattenimento. Tutti abbiamo sorriso di fronte ai video diffusi in rete, in cui politici internazionali pronunciano frasi in un dialetto italiano stretto, ma con un labiale perfetto. Alcuni ricorderanno il video fasullo in cui l’allora Presidente degli Stati Uniti, Donald Trump, dava “consigli” a Bruxelles sull’emergenza climatica. Recentemente, un sosia di Tom Cruise sull’app di condivisione TikTok ha utilizzato la tecnologia deepfake per realizzare video convincenti nei panni dell’attore.

WHITEPAPER
Le fasi del mining: stabilire un obiettivo e la criptovaluta. Scopri di più
Blockchain
Criptovalute

Originariamente, il termine “deepfake” si riferisce a una tecnica basata sull’apprendimento computazionale profondo (deep learning) in grado di creare video falsi scambiando il volto di una persona con il volto di un’altra. Il termine fu coniato dallo pseudonimo (appunto, “deepfakes”) di un utente della piattaforma Reddit che alla fine del 2017 affermò di aver sviluppato un algoritmo di apprendimento automatico che poteva trasporre i volti di celebrità note su quelle degli sconosciuti attori di video pornografici.

Questa tecnica, che offre grandi possibilità di business anche nella cinematografia tradizionale (pensate alla possibilità di far recitare copioni nuovi ai divi del passato) fu inizialmente accolta come la naturale evoluzione delle tecniche di elaborazione delle immagini che permettono alle celebrità di utilizzare il corpo di una controfigura quando il loro non è all’altezza di una ripresa ravvicinata. Ben presto, però, i ricercatori e gli esperti in analisi forense dei contenuti digitali (la digital forensics) si resero conto che la tecnica di deepfake poteva impedire l’identificazione dei falsi, rendendo possibile creare bufale difficili da smentire anche in tribunale, oppure violare i sistemi di autenticazione basati sui volti.

DeepNude, la legge tutela male le donne “spogliate” con l’intelligenza artificiale

Analisi forense ed entropia locale

Per capire perché, occorre considerare che le tecniche tradizionali di analisi forense si basano su caratteristiche come l’entropia locale, che misura il “disordine” dei valori di luminanza dei pixel in una certa area dell’immagine. Se ritaglio manualmente una persona da un’immagine e la sostituisco con un’altra (o con lo sfondo), l’andamento dell’entropia locale avrà un sussulto entrando nella regione sostituita, una discontinuità che viene riconosciuta senza problemi dai classici algoritmi di analisi delle immagini.

Per i video, la manipolazione manuale causa simili “sussulti” nelle differenze tra frame, e, nei video con parlato, un simile analisi entropica può rivelare le differenze – impercettibili a occhio nudo – nell’andamento delle microespressioni del viso e il movimento delle labbra che realizza una traccia audio diversa.

Se invece l’immagine falsa è generata da un modello generativo di apprendimento computazionale (un Autoencoder) a partire dall’immagine vera (e dal segnale da aggiungere), si può co-addestrare il modello generativo insieme a un discriminatore ottenendo il sistema detto Generative Adversarial Network (GAN), di cui abbiamo parlato più volte su queste pagine. Questo fa sì che l’andamento dell’entropia locale non mostri sussulti in sede di analisi.

La controffensiva degli esperti di sicurezza

La raccolta non autorizzata su larga scala di video e immagini è un’attività ben documentata nella “zona grigia” del darknet, con una forte connotazione regionale. L’evoluzione del deep learning ha completamente eliminato i passaggi di modifica manuale, e sono disponibili applicazioni come ZAO3 e FaceApp4 che permettono a chiunque di creare immagini e video falsi, senza alcuna esperienza sul campo. Le cosiddette “truffe romantiche”, in cui personaggi inesistenti fanno finte promesse di matrimonio a interlocutori creduloni in cambio di denaro vero, sono solo un esempio di applicazione a tappeto delle tecniche deepfake.

Ovviamente, gli esperti di sicurezza e delle immagini non sono rimasti con le mani in mano di fronte all’offensiva dei dati fasulli.

Prima di tutto, sono stati sviluppati metodi per aumentare la multimodalità delle fonti ovvero le informazioni che contengono. Ad esempio, sono stati inclusi nei flussi video le “impronte digitali” della fotocamera, ovvero le caratteristiche uniche del dispositivo che dipendono dall’obiettivo ottico, dalla codifica e interpolazione dei colori, ma anche – in alcuni casi – le impronte digitali dell’operatore. Questo rende in linea di principio possibile alimentare una Blockchain con “gettoni non fungibili” corrispondenti ai video, permettendo il controllo della contraffazione a livello planetario.

Purtroppo, la maggior parte dei deepfake viene condivisa sui social network, le cui piattaforme modificano profondamente le immagini/video contribuite dagli utenti attraverso operazioni di compressione e ridimensionamento, rendendo arduo il lavoro di verifica.

Deepfake, conoscerlo per non cadere nella trappola: rischi e potenzialità

Gli occhi non mentono

Di recente, la comunità di ricerca internazionale ha sviluppato vari metodi per il rilevamento della manipolazione del viso. Numerosi gruppi di ricerca, anche in Italia, se ne occupano, e non mancano progetti europei come WeVerify e internazionali come l’iniziativa MediFor finanziata dal Defense Advanced Research Project Agency (DARPA) americano.

Negli Stati Uniti, i ricercatori dell’Università di Buffalo hanno inventato un ingegnoso strumento per individuare immagini fasulle di persone basandosi sull’individuazione di inverosimiglianze entropiche in punti specifici delle immagini, e in particolare negli occhi.

Nelle foto reali di persone, i riflessi degli oggetti esterni nelle cornee di una persona tendevano a essere simili, quindi ad avere entropia uniforme. Nelle immagini deepfake, tuttavia, i riflessi negli occhi dei visi sintetizzati hanno entropia diversa. La rilevazione di questa differenza permette di identificare i volti generati automaticamente. Ovviamente la tecnica non è di uso generale, perché richiede che i soggetti veri delle riprese stessero guardando “qualcosa”. Costituisce comunque un importante primo passo verso l’Individuazione automatica dei luoghi da considerare per l’analisi forense.

WHITEPAPER
Energy e Blockchain: quali opportunità?
Blockchain
Utility/Energy
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articolo 1 di 4