SICUREZZA DIGITALE

Deepfake in tribunale: ecco come la digital forensics smaschera il falso

Le immagini prodotte da sistemi di AI devono passare al vaglio di filtri tecno-investigativi per poter essere utilizzati in un procedimento giudiziario. In ballo l’autenticità e attendibilità del contenuto visivo. Le varie fasi dell’image processing e le best practice italiane

06 Nov 2019
Stefano Aterno

Professore a contratto presso l'università di Foggia, avvocato

deepfake

Il tema deepfake si fa oltremodo scottante se riportato all’ambito giuridico dove testimonianze e “prove” fake possono ribaltare l’intero processo probatorio. Ci sono già tecnologie di contro-verifica; al tempo stesso, abbiamo gli ostacoli ancora da superare.

Perché i deepfake sono un problema in ambito forense

E sarà meglio accelerare su questo fronte, perché con crescente facilità esperti di sistemi di Intelligenza artificiale sono in grado, prendendo un video, di sostituire la faccia e la voce di un personaggio con quella di un altro soggetto. Possono farlo ovviamente anche per conto terzi. La tecnica è sempre più sofisticata e lo sguardo umano inizia a non cogliere sempre, o in modo chiaro, la falsificazione. Può restare, soprattutto nei più distratti, una perplessità di fondo (si pensi al video deepfake di Barak Obama).

INFOGRAFICA
I migliori data analytics tools a confronto: CHI VINCE?
Big Data
Datacenter

Questo fenomeno è comparso sugli schermi alcuni anni fa, all’inizio con la pornografia e alcuni personaggi famosi, poi con alcuni personaggi noti della politica americana (Obama, Nancy Pelosi) e poi tanti altri personaggi del mondo dello spettacolo. Il tono scherzoso e goliardico ha spesso caratterizzato il video non creando imbarazzi o conseguenze importanti. Ma se invece in un prossimo futuro ci trovassimo alle prese con deepfake dai contenuti compromettenti? Oltre ad essere il video oggetto di un artificio e di un trattamento con sistemi di intelligenza artificiale la cosa che più colpisce è il fatto di poter replicare esattamente il timbro di voce del personaggio facendogli dire le cose che si vuole fargli dire.

Deepfake, un'”altra” realtà: la ricerca in campo

Siamo in presenza di una tecnologia altamente sofisticata che fa leva su sistemi di AI “basati” su strati neurali, in grado di codificare e decodificare un segnale. I problemi non sono soltanto etici, sociali, probatori ma soprattutto relativi alla costruzione di “altre” realtà. Bisogna fare presto. Servono strumenti in grado di smascherare i deepfake e rimuoverli. Sarà necessario potenziare gli sforzi della ricerca per sviluppare le migliori pratiche di IA e di Face Forensics allo scopo di mitigare il potenziale danno e l’abuso che può nascondersi dietro a questi sistemi. Google sta studiando il fenomeno già da qualche tempo e ha stilato un elenco di Principi IA ovvero linee guida da seguire allo scopo di richiamare l’attenzione sull’uso malevolo o non etico delle potenzialità dell’intelligenza artificiale. Da alcuni mesi l’azienda di Mountain View è attiva sul fronte dei deepfake.

A seguito di una ricerca del gruppo Google Research è stato creato un database (meglio chiamato dataset) in collaborazione anche con Jigsaw, l’Università Federico II di Napoli e l’Università di Monaco con il quale è stato possibile il rilascio di un set di dati di sintesi vocale a supporto di un progetto internazionale per lo sviluppo di rilevatori audio falsi ad alte prestazioni. Il set è stato offerto liberamente in download su GitHub per consentire a tutto il mondo (soprattutto ai ricercatori accademici e non) di beneficiarne. Ad oggi il set di dati è stato scaricato da oltre 150 organizzazioni di ricerca e industria ed è partita la sfida scientifica contro il deepfake per trovare soluzioni di forensics all’altezza dei nuovi e sofisticati meccanismi di alterazione, o meglio, vera e propria creazione, della realtà.

Il deepfake in tribunale: come smascherarlo?

In Italia si è fatto un gran parlare della lotta alle fake news parlando di fattispecie di reato o di tutele alternative. Man mano che la realizzazione di video fake sarà alla portata anche dei meno esperti avremo la necessità di riaprire il dibattito sugli strumenti (investigativi e non) di tutela delle vittime di questi fake?

Il punto è che con una velocità impressionante sta cambiando il nostro modo di vedere le cose, di percepirle, di pensare e di vivere, in Rete e fuori dalla rete. Molti soggetti sono consapevoli o provano a capire cosa sta accadendo ma non tutti ci riescono e non tutti hanno la medesima percezione. Stentiamo a comprendere quali potranno essere le conseguenze sociali e culturali e, sempre più spesso con il passare del tempo, la nostra intima capacità critica e di comprendere la realtà delle cose viene messa a dura prova.

Affinché “un documento visivo” possa essere utilizzato in un procedimento giudiziario, è necessario che ne sia provata l’originalità. L’attendibilità di una fonte di prova diventa quindi argomento delicato, perché necessita di nozioni tecnico-scientifiche che, anche per la loro continua evoluzione, mal si prestano ad essere catalogate all’interno di una normativa.

Anche nel caso dei video deep fake, come in altri casi nel passato, per cercare la verità, per avere la prova della falsità di questi video il metodo migliore è il metodo scientifico.

La verifica di autenticità di un documento visivo digitale avviene in due fasi: la verifica dell’autenticità del file e la verifica dell’autenticità del contenuto.

L’image processing: tutte le categorie

L’approccio forense all’analisi di un’immagine presuppone che questa debba essere affidata a personale con un’adeguata preparazione tecnica nel campo dell’image processing, ma che sappia anche interpretare le informazioni estratte alla luce del contesto dell’ambito forense e giudiziario.

L’analisi forense di immagini è suddivisa nelle seguenti categorie:

Image forgery identification: identificazione di manipolazioni in un’immagine, finalizzata all’inserimento o alla rimozione di parte del contenuto informativo di un’immagine.

Source camera identification: identificazione del dispositivo che ha generato l’immagine (se possibile). Il primo passo è la discriminazione tra immagini naturali o artificiali (Computer Generated).

Image reconstruction/restoration/enhancement: restauro di immagini deteriorate e miglioramento della qualità al fine di identificare, anche parzialmente, il contenuto originale e/o recuperare informazioni.

Image/video analysis: analisi dinamiche o comportamentali volte, ad esempio, ad individuare la consecutio temporum di un evento d’interesse.

Ricostruzione 3D e comparazione: estrazione delle informazioni bi/tridimensionali contenute all’interno della scena per ricavare misure o grandezze di riferimento (ad esempio l’altezza di un individuo) e per la comparazione tra immagini (ad esempio per verificare l’identità di un soggetto noto attraverso le sue caratteristiche fisiche e antropologiche).

Steganalisi: individuazione di informazioni nascoste all’interno di un’immagine con tecniche steganografiche (ad esempio mediante la modifica del bit meno significativo nel numero che definisce il colore di un pixel).

Come valutare l’autenticità di un video

L’analisi generale del file consente di individuare unicamente eventuali alterazioni a livello di formato: permette cioè di determinare l’autenticità o meno del file, ma non del contenuto informativo in esso contenuto. L’analisi di formato può essere di tipo comparativo (ci si confronta cioè con analoghi dati) o assoluto. Alcuni degli elementi principali da analizzare, per valutare l’autenticità del file mediante un’analisi di tipo assoluto, sono il formato dell’immagine, le dimensioni delle immagini, la presenza dei metadati EXIF (in particolare dei tag Make e Model), la presenza di keyword sospette all’interno dei metadati dell’immagine, oppure la compatibilità delle date di creazione e modifica salvate nei dati EXIF come anche la presenza di immagini secondarie quali thumbnail e preview.

L’analisi locale dell’immagine invece permette di evidenziare localmente eventuali artefatti nelle caratteristiche dei pixel, che possono essere dovuti alla presenza di un particolare tipo di manipolazione. L’output è generalmente un’immagine, ottenuta applicando un particolare filtraggio. Nella maggior parte dei casi, l’analista deve avere una certa competenza nell’interpretare correttamente le immagini risultanti e identificare le zone sospette. Talvolta è possibile automatizzare il metodo con delle soglie, al fine di estrarre alcuni elementi delle zone sospette. In ogni caso è sempre necessaria una valutazione critica del risultato da parte dell’esperto. Ad esempio a volte le analisi dell’immagine possono dare spesso dei risultati errati (tipicamente falsi positivi). In tal caso, è compito dell’analista comprendere che l’identificazione di alcune aree sospette in alcuni casi non sono affidabili.

L’efficienza delle tecniche di analisi dipende fortemente dal tipo di processing che viene applicato alle immagini dopo la manipolazione. Ad esempio, se successivamente alla modifica le immagini sono state compresse o ridimensionate in modo eccessivo, la maggior parte delle tracce visibili con questi algoritmi vengono per lo più rimosse. Queste procedure sono alla base dei sistemi di video forensics oggi in uso e di quelle alla base della prime analisi sui video di Deepfake.

Ricerca anti-deepfake, le eccellenze italiane

In Italia oggi molti istituti di ricerca, come ad esempio l’Università di Catania e altri centri specializzati, sono alle prese con questo tipo di analisi e procedure applicate al deep fake. Le metodologie per la ricerca di manipolazioni su immagini sono state descritte oramai diversi anni fa (pubblicate su IISFA memberbook 2013 le potete trovare qui). Attualmente l’ENFSI (European Network of Forensic Science Institutes) sta lavorando ad un progetto cui partecipa l’UniCT per redigere le prime BPM (best practices) a livello europeo.

A livello di ricerca iniziano ad uscire i primi tools e i propositi sono quelli di riuscire a trovare le anomalie statistiche che le reti neurali di nuova generazione (chiamate GAN, Generative Adversarial Network) addestrate a costruire video realistici di volti umani (come ad esempio quelle del sito web. Trattasi di tecniche di forensics tutte ripetibili (anche sotto il profilo processuale), da applicare in post-processing che vanno a ricercare tali anomalie.

In pratica l’occhio umano viene ingannato, ma la traccia digitale della manipolazione rimane e va scovata. Alcune tecniche per esempio analizzano le anomalie nel blinking, altre verificano la distribuzione dei pixel saturi (troppo chiari e/o troppo scuri), altre verifichino che tutte le tracce di un’acquisizione con una macchia da ripresa siano presenti.

Ovviamente anche nella battaglia contro il deepfake partiamo in salita ma, come già accaduto in passato e come sempre accade in questi casi, sarà una guerra tra forensics e anti-forensics dove la nuova tecnologia consente anche di aiutare a capire se stessa e a smascherare i suoi stessi lati occulti. Pertanto molta attenzione ma niente paura e inutili allarmismi, non partiamo affatto battuti in partenza.

WHITEPAPER
Sai come implementare una rivoluzione dell’IT che parte dai processi più profondi?
Digital Transformation
Software
@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati