Deepfake, identità sintetiche e automazioni basate sull’AI stanno mettendo in discussione i presupposti stessi della verifica online. Non basta più riconoscere un volto o validare un documento: oggi occorre capire da dove arrivano i dati, se il processo è integro e se la persona è davvero presente.
Il problema non è soltanto che l’intelligenza artificiale sappia imitare un volto, riprodurre una voce o generare un documento credibile. Il punto è che molti sistemi di verifica continuano a trattare questi elementi come si dimostrano sufficienti di per sé.
Indice degli argomenti
Fiducia digitale oltre il riconoscimento biometrico
Per anni abbiamo costruito l’identità digitale come una somma di corrispondenze: il volto coincide con la foto, il nome con quello riportato sul documento, la voce con quella associata all’utente, le credenziali con quelle registrate nel sistema. Oggi, però, ciascuno di questi segnali può essere riprodotto, ricombinato o presentato fuori dal proprio contesto originario.
Un dato può essere formalmente corretto e, allo stesso tempo, non appartenere alla persona che lo sta utilizzando. Un’immagine può ritrarre un individuo reale senza essere stata acquisita in quel momento. Una voce può sembrare autentica senza provenire da chi appare parlare. Un documento valido può essere mostrato da un soggetto diverso dal titolare, oppure inserito in un processo interamente automatizzato.
La conseguenza è uno scarto sempre più evidente tra riconoscimento e autenticità. Riconoscere un’identità non significa più dimostrare che quella persona sia davvero presente, consapevole dell’operazione e titolare dei dati utilizzati. Verificare un documento non equivalente a provare che non sia stato manipolato. Superare un controllo biometrico iniziale non garantisce che l’interazione successiva resti nelle mani dello stesso soggetto.
È qui che la fiducia digitale cambia natura. Non può più essere concessa una volta per tutte al termine dell’onboarding, né dipendere da un solo elemento apparentemente convincente. Deve invece costruirsi attraverso una catena di prova: provenienza dei dati, integrità del canale, acquisizione in tempo reale, presenza effettiva dell’utente, coerenza del comportamento e tracciabilità delle trasformazioni subite dai contenuti.
La domanda, quindi, non è più soltanto “chi sei?”. È: quali prove verificabili dimostrano che sei davvero tu, che sei presente adesso e che ciò che stai mostrando non è stato generato, sostituito o manipolato?
Fiducia digitale e crisi del valore della prova
Una fotografia, un video o una vocale possono essere contestati proprio perché la loro manipolazione è oggi tecnicamente plausibile. Il rischio si muove in due direzioni: un contenuto falso può essere accettato come vero, mentre un contenuto autentico può essere respinto come artificiale.
È il cosiddetto “dividendo del bugiardo”: l’esistenza di tecnologie capaci di produrre falsificazioni credibili offre a chiunque la possibilità di negare l’autenticità di una prova reale. Il problema, quindi, non è più solo stabilire se un contenuto sia stato manipolato, ma preservare la possibilità stessa di dimostrarne l’origine.
I sistemi tradizionali provano a rispondere cercando anomalie. Analizziamo i pixel, i movimenti del volto, la sincronizzazione tra audio e video, la struttura del documento o i metadati disponibili. Ma questa logica mantiene una debolezza di fondo: cerca di riconoscere il falso dopo che il contenuto è già stato prodotto.
In un contesto in cui i sistemi generativi migliorano velocemente, la diffusione diventa una corsa continua. Ogni nuova tecnica di identificazione può essere seguita da un modello capace di ridurre o nascondere proprio gli artefatti su cui quella tecnica si basa.
Per questo il problema della fiducia digitale non può essere affrontato soltanto affinando la capacità di smascherare il falso. Serve anche la possibilità di dimostrare, in modo positivo, ciò che è autentico.
Volti sintetici e fiducia digitale: il ruolo della familiarità
La difficoltà non è soltanto tecnologica. Riguarda anche il modo in cui le persone attribuiscono affidabilità a un volto, a una voce e a un’interazione.
Una ricerca condotta dall’Università di Milano-Bicocca, pubblicata con il titolo “Volti creati dall’intelligenza artificiale, il cervello li riconosce anche quando la mente si lascia ingannare” ha mostrato una netta distanza tra giudizio consapevole e risposta neurale di fronte a volti generati dall’intelligenza artificiale. Nell’esperimento, 30 partecipanti hanno osservato 440 immagini, metà reali e metà sintetiche. I volti artificiali sono stati riconosciuti correttamente solo nel 33% dei casi, quindi sotto la soglia del caso. Eppure l’attività cerebrale mostrava comunque una diversa elaborazione delle immagini sintetiche rispetto a quelle reali.
L’aspetto più interessante, però, è un altro: i volti generati dall’AI sono stati percepiti come più familiari, attraenti e affidabili. I modelli generativi tendono infatti a produrre fisionomie più regolari e più prototipiche, costruite intorno a caratteristiche che il cervello riconosce con facilità.
Il volto sintetico, quindi, non è necessariamente inquietante o artificiale. Anzi, può perfino risultare più rassicurante di quello reale.
Questa familiarità diventa una debolezza, perché una parte della fiducia continua ad essere attivata da segnali intuitivi: un’espressione naturale, una voce credibile, una conversazione coerente, un tono sicuro. Sono proprio i segnali che i sistemi generativi stanno imparando a replicare sempre meglio.
Un deepfake efficace, dunque, non deve soltanto superare un controllo tecnico. Deve inserirsi in una storia plausibile, rispecchiare le aspettative della persona coinvolta e ridurre il tempo disponibile per verificare. Lo stesso vale nelle frodi che imitano dirigenti, familiari, consulenti o operatori di assistenza: la tecnologia costruisce il segnale, ma è la familiarità a renderlo credibile.
Identità sintetiche, dai deepfake alle frodi scalabili
Se ci concentriamo sul singolo contenuto — un file, una foto, un video — rischiamo però di perdere di vista l’evoluzione più importante: il passaggio dal singolo artefatto all’identità sintetica.
Come nasce un’identità sintetica
Un’identità sintetica nasce spesso dalla combinazione di elementi diversi: informazioni reali, dati sottratti, immagini generate, documenti modificati, profili sociali e comportamenti automatizzati. Non deve essere del tutto falso per funzionare; al contrario, la sua forza sta proprio nel mescolare elementi autentici e artificiali.
Una fotografia reale può essere associata a dati anagrafici diversi. Un documento valido può essere mostrato attraverso un volto animato. Una voce clonata può essere utilizzata durante una chiamata di verifica. Un account aperto correttamente può essere controllato in seguito da un sistema automatizzato.
La materia prima è spesso già disponibile. Fotografie in alta risoluzione, video, interviste, messaggi vocali, webinar e riunioni registrate offrono dati sufficienti a ricostruire una presenza digitale plausibile. Non sempre servono violazioni sofisticate: può bastare riutilizzare ciò che le persone hanno pubblicato volontariamente, ma per scopi del tutto diversi.
A questo si aggiunge l’automazione. Un’identità sintetica può compilare moduli, rispondere a domande, sostenere conversazioni, adattare le risposte al contesto e operare contemporaneamente su più servizi.
In questo modo, la frode smette di essere un singolo tentativo e diventa un processo scalabile. Non abbiamo più solo un falso contenuto usato da una persona, ma sistemi capaci di produrre e gestire molteplici identità, adattandole ai controlli che si incontrano.
In altre parole, non basta analizzare un contenuto per chiedersi se sia vero o falso. Bisogna anche capire da dove viene, chi lo ha generato, come è stato usato e in quale processo si inserisce.
Quindi il rischio maggiore non è solo il deepfake isolato, ma l’insieme più ampio che può costruire una identità sintetica: dati veri, dati falsi, automazioni e comportamenti credibili.
La fiducia digitale oltre l’onboarding iniziale
Molti processi di identificazione digitale sono ancora costruiti attorno a un momento preciso: l’ingresso dell’utente nel servizio.
La persona presenta il documento, registra un selfie, conferma un numero di telefono e ottiene l’accesso. Da quel momento, l’identità viene considerata verificata e il sistema si limita soprattutto a controllare le credenziali.
Ma questa impostazione presuppone che l’identità resti stabile per tutta la durata del rapporto. In realtà, un account può essere compromesso, una sessione può essere trasferita, un dispositivo può essere manipolato e un’interazione può essere affidata a un agente automatizzato.
Una verifica superata ieri, quindi, non dimostra automaticamente chi sta operando oggi.
La fiducia va valutata lungo tutta la durata del rapporto con l’utente. Questo significa combinare più segnali: presenza in tempo reale, integrità del dispositivo, provenienza dei documenti, continuità della sessione, caratteristiche comportamentali e livello di rischio dell’operazione.
Nessun segnale, da solo, può essere considerato definitivo. Un volto può corrispondere alla fotografia ed essere comunque sintetico. Un documento può essere autentico ma rubato. Un dispositivo può essere noto, mentre il comportamento dell’utente risulta completamente diverso dal solito.
È la coerenza tra prove indipendenti a rendere più robusta la verifica.
Questo non significa trasformare ogni interazione in un controllo invasivo. Significa adottare una logica adattiva alla situazione. Un accesso ordinario può richiedere verifiche minime mentre altre operazioni come un cambio delle credenziali, un pagamento anomalo, l’inserimento di un nuovo beneficiario o la richiesta di informazioni sensibili possono invece giustificare controlli aggiuntivi.
La fiducia digitale diventa così dinamica: si aggiorna in base al contesto, invece di essere attribuita in modo permanente dopo un solo passaggio.
Provenienza dei contenuti e catena di prova digitale
Sapere che un’immagine proviene da una videocamera affidabile non basta, se non è possibile ricostruire cosa sia accaduto dopo. Allo stesso modo, conoscere l’identità dell’autore non consente di stabilire se il file pubblicato corrisponde davvero a quello acquisito all’origine.
Il passaggio decisivo, pertanto, consiste nello spostare parte dell’attenzione dalla rilevazione del falso alla provenienza del contenuto.
Un’immagine o un documento attraversano un ciclo di vita: vengono acquisiti o generati, modificati, pubblicati, trasmessi e condivisi di nuovo. In ciascuna fase possono perdere informazioni, essere decontestualizzati o subire trasformazioni.
Servono quindi prove capaci di accompagnare il contenuto: dispositivo o sistema di origine, dati di acquisizione, operazioni eseguite, strumenti utilizzati e soggetto responsabile della pubblicazione.
C2PA e informazioni verificabili sull’origine
Questo è il principio alla base di standard come C2PA, che consente di associare ai contenuti digitali informazioni sulla provenienza verificabili crittograficamente. In pratica, lo C2PA funziona come una specie di “etichetta” che accompagna il file e mostra informazioni come: chi l’ha creato o pubblicato, se è stato modificato e quali passaggi ha attraversato nel suo ciclo di vita.
Lo standard C2PA non assegna un giudizio di verità al contenuto: permette di verificare che determinate informazioni siano associate all’asset e non siano state alterate. Offre quindi segnali di fiducia, non una certificazione automatica della realtà.
Quindi l’idea non è dire se un contenuto sia “vero” o “falso”, ma rendere più trasparente la sua storia e più facile capire se i dati di provenienza sono integri o stati manomessi.
È comunque un cambiamento importante. Si passa da un contenuto isolato, valutato solo per ciò che appare, a un contenuto accompagnato da una storia controllabile.
Lo stesso principio può valere anche per la verifica dell’identità. Un documento non dovrebbe soltanto sembrare valido, ma essere collegato a una fonte verificabile. Un selfie non dovrebbe solo corrispondere alla fotografia, ma dimostrare di essere stato acquisito in tempo reale attraverso un canale integro. Una dichiarazione non dovrebbe essere soltanto coerente con la voce dell’utente, ma inserirsi in una sessione di cui sia possibile ricostruire continuità e responsabilità.
Dati biometrici, privacy e identità sintetiche
Se un sistema ha paura di deepfake, frodi o identità sintetiche, la risposta istintiva spesso è quella di raccogliere più informazioni: volto, voce, selfie, video, impronte comportamentali. Ma in realtà questa strategia non risolve il problema. La risposta alla crisi della fiducia non può consistere semplicemente nell’accumulare sempre più dati biometrici. Anzi può rivelarsi controproducente.
Raccogliere dati sensibili infatti può aiutare a verificare l’identità, ma aumenta anche i rischi per la privacy e la sicurezza. Se queste informazioni vengono archiviate in modo concentrato, possono diventare un bersaglio molto prezioso. Inoltre, se una password viene rubata, la cambi. Se invece viene compromessa la tua voce o il tuo volto, non li puoi sostituire facilmente.
La progettazione dei sistemi di verifica dovrebbe quindi seguire principi di minimizzazione, proporzionalità e separazione delle informazioni. L’obiettivo non deve essere raccogliere più informazioni possibili ma al contrario i sistemi dovrebbero raccogliere solo i dati davvero necessari, usarli in modo proporzionato e conservare solamente le prove utili a dimostrare che il controllo è avvenuto correttamente.
Consenso e impronta digitale dei minori
Anche il consenso va considerato con attenzione: pubblicare una foto o una registrazione non significa autorizzarne qualunque uso successivo; condividere una registrazione vocale non equivalente ad accettarne la clonazione; rendere disponibile un contenuto su una piattaforma non dovrebbe voler dire perdere il controllo sulla propria rappresentazione digitale.
Il tema è ancora più delicato in caso di minori. Fotografie familiari, video scolastici e contenuti pubblicati dagli adulti costruiscono un’impronta digitale prima ancora che il bambino coinvolta ne possa capire le conseguenze.
La protezione dell’identità sintetica comincia quindi anche dalla quantità e dalla qualità dei dati che rendiamo accessibili.
AI Act e regole per i contenuti sintetici
Non basta più accorgersi del falso: oggi la vera sfida è far durare la verità, renderla tracciabile e proteggerla mentre circola.
Obblighi europei e norme italiane
L’Europa sta riconoscendo sempre più chiaramente che i contenuti generati o alterati con l’intelligenza artificiale devono essere identificabili. L’articolo 50 dell’AI Act introduce obblighi di trasparenza per chi sviluppa o utilizza professionalmente alcuni sistemi generativi: dal 2 agosto 2026, i fornitori dovranno renderli rilevabili in formato leggibile dalle macchine i contenuti sintetici, mentre chi diffonde deepfake dovrà informare con chiarezza le persone coinvolte.
Anche l’AI Omnibus va nella stessa direzione, vietando i sistemi progettati per creare contenuti sessualmente espliciti o intimi non consensuali e materiale di abuso sessuale su minori. In Italia, la legge 23 settembre 2025, n. 132, in vigore dal 10 ottobre dello stesso anno, ha introdotto nel codice penale l’articolo 612-quater, che punisce chi diffonde senza consenso immagini, video o voci falsificati o alterati con l’AI, quando sono idonei a ingannare sulla loro autenticità.
Sono passi importanti, ma spesso intervengono quando il contenuto è già stato creato o diffuso. Un’etichetta può essere rimossa, uno screenshot può separare il contenuto dalle informazioni originali e una falsificazione può circolare molto rapidamente prima di essere verificata. Per questo la trasparenza non può essere solo un segnale iniziale: deve restare visibile lungo tutto il percorso del contenuto, anche quando passa da una piattaforma all’altra, e deve chiarire sempre chi lo ha generato, diffuso o utilizzato.
La fiducia digitale come infrastruttura
Per molto tempo abbiamo pensato che bastasse riconoscere un volto, validare un documento o superare un controllo iniziale per considerare chiusa la verifica. Oggi non è più così: la sicurezza va costruita nel tempo, con segnali che si rafforzano a vicenda e con strumenti capaci di accompagnare contenuti e identità lungo tutto il loro percorso.
La fiducia digitale dovrà quindi essere pensata come un’infrastruttura: un insieme di identità verificabili, provenienza dei contenuti, integrità dei dispositivi, monitoraggio del rischio, responsabilità organizzative e protezione dei dati.
Questo cambiamento riguarda banche, piattaforme, pubbliche amministrazioni, aziende, sistemi sanitari e servizi professionali. Riguarda ogni organizzazione che deve capire non solo quale account abbia compiuto un’operazione, ma quale persona o sistema ne sia davvero responsabile.
Nell’era delle identità sintetiche, “sembra autentico” non può più essere il punto di arrivo. È solo l’inizio della verifica. La vera domanda, infatti, non è più se un volto, una voce o un documento appaiano convincenti, ma se esista una catena di prova abbastanza solida da collegarli a una persona reale, a un momento preciso, a un’origine controllabile e a un’azione consapevole.
Ed è qui il passaggio più importante: la fiducia non scompare, ma cambia forma. Non è più un’impressione da concedere in fretta; diventa un processo da costruire, aggiornare e proteggere nel tempo.
Partecipa alla community