lotta alla disinformazione

Deepfake, perché bisogna prepararsi al peggio: le mosse di Facebook

I deepfake non sono al momento un grosso problema ma non bisogna mai essere colti alla sprovvista, e Facebook, come altri social media, vuole prepararsi a dovere per tutte le situazioni dannose che potrebbero accadere. Non è semplice. Ecco le tecnologie in campo

02 Lug 2020
Luigi Mischitelli

Privacy & Data Protection Specialist at IRCCS Casa Sollievo della Sofferenza

deepfake

Data la crescente diffusione dell’uso dei deepfake nella violenza di genere e nella disinformazione è meglio non farsi cogliere impreparati. La pensa così infatti Facebook, che sta cominciando a correre ai ripari per non lasciare spazio ai filmati manipolati sulla sua piattaforma. Il compito non è dei più semplici. Vediamo perché.

Deepfake e social network

Le società di social network e media temono che i deepfake possano presto inondare i loro “spazi”. Soprattutto in tempi di elezioni presidenziali americane, possono essere formidabili strumenti di manipolazione politica (come già successo in passato, del resto, ai danni di contestatori di Trump).

WHITEPAPER
I trend che stanno trasformando strumenti e processi nel Monitoring
Digital Transformation
Finanza/Assicurazioni

Tuttavia, individuarli in maniera “automatica” tramite l’Intelligenza Artificiale non è agevole. Per affrontare il problema, Facebook vuole usare l’Intelligenza Artificiale per aiutare a combattere i falsi generati dalla stessa Intelligenza Artificiale. Per addestrare l’Intelligenza Artificiale a individuare i video “manipolati”, Facebook sta rilasciando il più grande dataset mai realizzato relativo ai deepfake: oltre 100.000 clip prodotte utilizzando 3.426 attori e una serie di tecniche di face-swap (tecnica che permette lo “scambio dei volti”) esistenti.

A dirla tutta, per il CTO di Facebook, Mike Schroepfer, i deepfake non sono attualmente un grosso problema per l’azienda di Menlo Park. Ma pur non essendo un grosso problema nell’immediato Schroepfer ha affermato che non bisogna mai essere colti alla sprovvista, preparandosi a dovere per tutte le situazioni dannose che possono accadere. Si potrebbe dire, in pratica, che Facebook si stia preparando alla tempesta ora che il cielo è sereno.

Facebook ha recentemente annunciato il vincitore della sua Deepfake Detection Challenge”, in cui 2.114 partecipanti hanno presentato circa 35.000 modelli formati sul suo dataset. Il modello migliore, sviluppato da Selim Seferbekov, un ingegnere di esperto di Deep Learning presso l’azienda Mapbox, è stato in grado di rilevare se un video fosse un deepfake con una precisione del 65%. Il tutto partendo da un dataset di 10.000 clip inedite, tra cui un mix di nuovi video generati da Facebook con altri esistenti presi da Internet. Per rendere le cose più difficili, i training data e il dataset sottoposto a test includevano la possibilità che il sistema di rilevamento potesse essere confuso, includendo testi e immagini che andavano a “disturbare” i soggetti ritratti nel video, oppure includendo video con risoluzioni altalenanti, oppure ancora con velocità differenti e dal repentino cambiamento. Il tutto per identificare al meglio i deepfake.

Le reti neurali convoluzionali per riconoscere un deepfake

Piuttosto che imparare tecniche forensi, come la ricerca di impronte digitali nei pixel di un video lasciato dal processo di generazione del deepfake, le tecniche “vincitrici” del contest sembrano aver imparato a riconoscere quando qualcosa sembrava “spento”, esattamente al “livello” di un essere umano. Per fare questo, tutti i vincitori hanno utilizzato un nuovo tipo di Rete Neurale Convoluzionale (tipo di rete neurale ispirata alla corteccia visiva) sviluppata dai ricercatori di Google l’anno scorso, chiamata EfficientNets. Le Reti Neurali Convoluzionali sono comunemente usate per analizzare le immagini e sono ottime per riconoscere i volti ovvero gli oggetti. Tuttavia, il miglioramento della loro precisione oltre un certo punto può richiedere una messa a punto ad hoc. Gli EfficientNets forniscono un modo più strutturato per la “messa a punto”, rendendo più facile lo sviluppo di modelli più accurati. Ma esattamente ciò che li rende superiori ad altre reti neurali in questo compito non è chiaro.

Facebook ha dichiarato di prevedere di non utilizzare nessuno dei modelli vincenti della sua Deepfake Detection Challenge. Per prima cosa, il 65% di accuratezza non è ancora abbastanza accettabile per essere utilizzabile a pieno. Alcuni modelli hanno ottenuto più dell’80% di accuratezza con i training data, percentuale che è tuttavia calata quando si è posto il confronto con clip non viste precedentemente.

Deepfake, perché prepararsi al peggio

Per Seferbekov di Mapbox la sfida dei nuovi video, che possono includere diverse facce scambiate utilizzando tecniche diverse, è la parte più difficile in assoluto. Un modo per migliorare il rilevamento dei deepfake sarebbe quindi quello di concentrarsi sulle transizioni tra i vari fotogrammi video, tracciandole nel tempo. Per Seferbekov anche i deepfake di alta qualità hanno un certo sfarfallio tra un fotogramma e l’altro. Gli esseri umani sono bravi a individuare queste incongruenze, soprattutto nelle riprese dei volti. Ma la “cattura automatica” di questi difetti rivelatori richiederà training data più ampi e variegati, nonché molta più potenza di calcolo. Seferbekov ha provato a tracciare queste transizioni di fotogramma ma non ci è riuscito, rappresentando la CPU come un vero e proprio “collo di bottiglia”.

Facebook suggerisce che il rilevamento dei deepfake può essere migliorato anche utilizzando tecniche che vanno oltre l’analisi di un’immagine o di un video, come la valutazione del suo contesto o della sua provenienza. Sam Gregory, che dirige Witness, un progetto che supporta gli attivisti per i diritti umani nell’uso delle tecnologie video, accoglie con favore l’investimento dei Big dei Social nella lotta senza quartiere ai deepfake. Witness è membro di “Partnership on AI”, che ha consigliato Facebook sul suo progetto “di lotta”. Gregory è d’accordo con il CTO di Facebook Schroepfer, ribadendo che vale la pena prepararsi al peggio, ossia a quando i deepfake saranno un problema serio per i social network.

Ad esempio, il rapporto dei laboratori DeepTrace Labs ha rilevato che il 96% dei Deepfake riguardano la “pornografia non consensuale”, in cui i volti delle altre persone sono incollati su quelli degli artisti in clip porno mediante la tecnica del face-swap. Un esempio potrebbe essere quello del partner ritratto in un video fake a compiere atti sessuali con altri soggetti, il tutto con diverse finalità di natura (quasi sempre) criminale.

E se si pensa che vi sono milioni di persone al mondo che sono in grado di creare e condividere video del genere, la fiducia in ciò che vediamo su Internet e sui social è più importante che mai. Le fake news si diffondono ormai a macchia d’olio su Facebook, e la sola possibilità di avere a che fare con notizie false semina il dubbio nei lettori, rendendoli propensi a mettere in discussione sia le notizie e i filmati veri che quelli falsi.

Ciò che è palese è che il rilevamento automatico allo studio di Facebook potrebbe presto essere l’unica opzione per combattere il fenomeno dei deepfake e delle fake news in genere.

@RIPRODUZIONE RISERVATA

Speciale PNRR

Tutti
Incentivi
PA
Sostemibilità
Analisi
Formazione
Salute digitale
Sicurezza
Sostenibilità
Digital Economy
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr
Formazione
Trasferimento tecnologico, il Mise mette sul piatto 7,5 milioni
Strategie
PSN e Strategia Cloud Italia: a che punto siamo e come supportare la PA in questo percorso
Dispersione idrica
Siccità: AI e analisi dei dati possono ridurre gli sprechi d’acqua. Ecco gli interventi necessari
PNRR
Cloud, firmato il contratto per l’avvio di lavori del Polo strategico
Formazione
Competenze digitali, stanziati 48 milioni per gli Istituti tecnologici superiori
Iniziative
Digitalizzazione delle reti idriche: oltre 600 milioni per 21 progetti
Competenze e competitività
PNRR, così i fondi UE possono rilanciare la ricerca e l’Università
Finanziamenti
PNRR, si sbloccano i fondi per l’agrisolare
Sanità post-pandemica
PNRR, Missione Salute: a che punto siamo e cosa resta da fare
Strategie
Sovranità e autonomia tecnologica nazionale: come avviare un processo virtuoso e sostenibile
La relazione
Pnrr e PA digitale, l’alert della Corte dei conti su execution e capacità di spesa
L'editoriale
Elezioni 2022, la sfida digitale ai margini del dibattito politico
Strategie
Digitale, il monito di I-Com: “Senza riforme Pnrr inefficace”
Transizione digitale
Pnrr: arrivano 321 milioni per cloud dei Comuni, spazio e mobilità innovativa
L'analisi I-COM
Il PNRR alla prova delle elezioni: come usare bene le risorse e centrare gli obiettivi digitali
Cineca
Quantum computing, una svolta per la ricerca: lo scenario europeo e i progetti in corso
L'indice europeo
Desi, l’Italia scala due posizioni grazie a fibra e 5G. Ma è (ancora) allarme competenze
L'approfondimento
PNRR 2, ecco tutte le misure per cittadini e imprese: portale sommerso, codice crisi d’impresa e sismabonus, cosa cambia
Servizi digitali
PNRR e trasformazione digitale: ecco gli investimenti e le riforme previste per la digitalizzazione della PA
Legal health
Lo spazio europeo dei dati sanitari: come circoleranno le informazioni sulla salute nell’Unione Europea
Servizi digitali
PNRR e PA digitale: non dimentichiamo la dematerializzazione
Digital Healthcare transformation
La trasformazione digitale degli ospedali
Governance digitale
PA digitale, è la volta buona? Così misure e risorse del PNRR possono fare la differenza
Servizi digitali
Comuni e digitale, come usare il PNRR senza sbagliare
La survey
Pnrr e digitale accoppiata vincente per il 70% delle pmi italiane
Missione salute
Fascicolo Sanitario Elettronico alla prova del PNRR: limiti, rischi e opportunità
Servizi pubblici
PNRR: come diventeranno i siti dei comuni italiani grazie alle nuove risorse
Skill gap
PNRR, la banda ultra larga crea 20.000 nuovi posti di lavoro
Il Piano
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUMPA2022
PNRR e trasformazione digitale: rivedi i Talk di FORUM PA 2022 in collaborazione con le aziende partner
I contratti
Avio, 340 milioni dal Pnrr per i nuovi propulsori a metano
Next Generation EU
PNRR, a che punto siamo e cosa possono aspettarsi le aziende private
Fondi
Operativo il nuovo portale del MISE con tutti i finanziamenti per le imprese
Servizi comunali
Il PNRR occasione unica per i Comuni digitali: strumenti e risorse per enti e cittadini
Healthcare data platform
PNRR dalla teoria alla pratica: tecnologie e soluzioni per l’innovazione in Sanità
Skill
Competenze digitali, partono le Reti di facilitazione
Gli obiettivi
Scuola 4.0, PNRR ultima chance: ecco come cambierà il sistema formativo
Sistema Paese
PNRR 2, è il turno della space economy
FORUM PA 2022
FORUM PA 2022: la maturità digitale dei comuni italiani rispetto al PNRR
Analisi
PNRR: dalla Ricerca all’impresa, una sfida da cogliere insieme
Innovazione
Pnrr, il Dipartimento per la Trasformazione digitale si riorganizza
FORUM PA 2022
PA verde e sostenibile: il ruolo di PNRR, PNIEC, energy management e green public procurement
Analisi
PNRR, Comuni e digitalizzazione: tutto su fondi e opportunità, in meno di 3 minuti. Guarda il video!
Rapporti
Competenze digitali e servizi automatizzati pilastri del piano Inps
Analisi
Attuazione del PNRR: il dialogo necessario tra istituzioni e società civile. Rivedi lo Scenario di FORUM PA 2022
Progetti
Pnrr, fondi per il Politecnico di Torino. Fra i progetti anche IS4Aerospace
Analisi
PNRR, Colao fa il punto sulla transizione digitale dell’Italia: «In linea con tutte le scadenze»
La Svolta
Ict, Istat “riclassifica” i professionisti. Via anche al catalogo dati sul Pnrr
Analisi
Spazio, Colao fa il punto sul Pnrr: i progetti verso la milestone 2023
FORUM PA 2022
Ecosistema territoriale sostenibile: l’Emilia Romagna tra FESR e PNRR
Il Piano
Innovazione, il Mise “centra” gli obiettivi Pnrr: attivati 17,5 miliardi
Analisi
PNRR: raggiunti gli obiettivi per il primo semestre 2022. Il punto e qualche riflessione
Analisi
PNRR: dal dialogo tra PA e società civile passa il corretto monitoraggio dei risultati, tra collaborazione e identità dei luoghi
Webinar
Comuni e PNRR: un focus sui bandi attivi o in pubblicazione
Analisi
Formazione 4.0: cos’è e come funziona il credito d’imposta
PA e Sicurezza
PA e sicurezza informatica: il ruolo dei territori di fronte alle sfide della digitalizzazione
PA e sicurezza
PNRR e servizi pubblici digitali: sfide e opportunità per Comuni e Città metropolitane
Water management
Water management in Italia: verso una transizione “smart” e “circular” 
LE RISORSE
Transizione digitale, Simest apre i fondi Pnrr alle medie imprese
Prospettive
Turismo, cultura e digital: come spendere bene le risorse del PNRR
Analisi
Smart City: quale contributo alla transizione ecologica
Decarbonizzazione
Idrogeno verde, 450 milioni € di investimenti PNRR, Cingolani firma
Unioncamere
PNRR, imprese in ritardo: ecco come le Camere di commercio possono aiutare
I fondi
Industria 4.0: solo un’impresa su tre pronta a salire sul treno Pnrr

Articoli correlati