AI Act, perché l’etichetta “generato dall’IA” non basta

Il 10 giugno scorso l’Ufficio europeo per l’IA (AI Office) ha pubblicato il “Code of Practice on Transparency of AI-Generated Content”, il Codice di buone pratiche destinato ad agevolare l’attuazione degli obblighi di trasparenza previsti dall’art. 50 dell’AI Act in merito ai contenuti generati o manipolati dall’intelligenza artificiale. Occorre precisare fin da subito la natura dello strumento: gli obblighi sono posti dal Regolamento e diventeranno applicabili dal prossimo 2 agosto 2026, mentre il Codice è di adesione volontaria e offre a fornitori e utilizzatori una via, riconosciuta a livello europeo, per dimostrarne l’adempimento. Chi non vi aderisce non è perciò esente, ma dovrà provare la conformità con altri mezzi, la cui adeguatezza sarà valutata dalle autorità di vigilanza del mercato.

Al di là delle considerazioni squisitamente tecniche, l’adozione del Codice di buone pratiche impone una riflessione di natura sistemica.

Dalla notizia al problema: l’Europa prova a rendere riconoscibile il contenuto sintetico.

La generazione di contenuti (audio, video e testo) da parte dell’IA rappresenta certamente una rivoluzione creativa, ma al tempo stesso aumenta sensibilmente i rischi di disinformazione, di manipolazione dell’opinione pubblica, di frodi documentali e di utilizzo fraudolento dell’identità digitale, comportando, su larga scala, un rischio sistemico per la democrazia e la stabilità sociale.

Per tali ragioni il Codice traduce in indicazioni operative il modo in cui fornitori (provider) e utilizzatori (deployer) possono assolvere all’obbligo — imposto dall’art. 50 — di rendere riconoscibile l’origine «sintetica» dei contenuti, attraverso sistemi tecnici di marcatura, etichettatura e rilevazione della loro generazione o manipolazione da parte dell’IA. È bene tenere distinti i due piani: il dovere è di fonte regolamentare, il Codice ne indica le modalità di adempimento senza crearlo né ampliarlo.

Tuttavia, assolvere ai doveri di trasparenza mediante l’etichettatura dei contenuti «artificiali» rischia di tradursi in un adempimento meramente formale, inidoneo a garantire la sopravvivenza della fiducia pubblica nel panorama dell’informazione digitale.

Etichettare non significa garantire verità.

L’AI Act impone obblighi di trasparenza in merito alle modalità di generazione del contenuto, ma ciò non significa affatto garantire l’attendibilità del contenuto stesso.

L’etichetta prevista dall’articolo 50 dell’AI Act, di cui il Codice di buone pratiche disciplina le modalità tecniche, non è una certificazione di qualità o veridicità dell’informazione, né la sua assenza ne garantisce l’accuratezza.

La verità non dipende dallo strumento utilizzato per produrre il contenuto, bensì dai processi di verifica, dalle fonti impiegate e dalla responsabilità di chi lo pubblica: un articolo redatto attraverso un modello generativo può essere perfettamente corretto e documentato; al contrario, un testo scritto integralmente da una persona può contenere omissioni, errori o informazioni deliberatamente false.

Per comprendere la portata della novità normativa occorre allora spostare l’attenzione dalla verità all’origine del contenuto.

L’AI Act introduce, sia pure implicitamente, una nuova categoria di trasparenza informativa: il diritto dell’utente a conoscere non soltanto cosa gli viene comunicato, ma anche come quel contenuto è stato generato.

In altri termini, la disciplina europea non afferma che un contenuto generato mediante IA sia falso o sospetto; pretende semplicemente che il destinatario possa conoscere le modalità della sua produzione, così da esercitare un giudizio critico consapevole. La trasparenza rafforza l’autonomia decisionale dell’utente, ma non sostituisce il necessario processo di verifica delle informazioni.

Si tratta di un cambiamento culturale prima ancora che giuridico.

Per secoli il sistema dell’informazione si è basato sull’identificazione dell’autore quale principale criterio di attribuzione della responsabilità: quando leggiamo un articolo, un saggio o un comunicato, attribuiamo spontaneamente valore al contenuto anche sulla base della reputazione del soggetto che lo ha redatto e/o pubblicato.

L’avvento dell’intelligenza artificiale generativa altera profondamente questo paradigma.

Oggi il processo creativo e informativo può coinvolgere una pluralità di soggetti: il provider che sviluppa il modello, l’organizzazione che lo utilizza, l’operatore che formula i prompt, il revisore umano che approva il risultato finale e il soggetto che lo pubblica.

In questo contesto, la semplice attribuzione autoriale non è più sufficiente, ma diventa necessario rendere trasparente l’intera filiera di generazione dell’informazione.

Deepfake, testi pubblici, contenuti informativi: diversi rischi, diverso livello di trasparenza.

Appare evidente che non tutti i contenuti generati o manipolati dall’intelligenza artificiale comportano gli stessi rischi per i diritti fondamentali, per il mercato e per il corretto funzionamento dei processi democratici.

Per tale ragione l’art. 50 gradua esso stesso gli obblighi di trasparenza a seconda della natura del contenuto, della sua finalità comunicativa e del potenziale impatto sul pubblico; il Codice di buone pratiche si limita ad articolarne l’attuazione tecnica. È il Regolamento, non il Codice, a distinguere le diverse ipotesi.

Al vertice della scala del rischio si collocano i deepfake audiovisivi: quando un sistema di IA è in grado di riprodurre fedelmente il volto, la voce, le espressioni e i comportamenti di una persona reale, il problema non riguarda soltanto la correttezza dell’informazione, ma entrano in gioco valori giuridici molto più ampi, come la tutela della personalità, della reputazione, dell’identità individuale e, in alcuni casi, perfino della libertà politica.

In questi casi, l’obbligo di etichettatura rappresenta una misura minima di salvaguardia destinata a consentire al destinatario di comprendere immediatamente che si trova di fronte a una rappresentazione artificiale della realtà.

Diversa è invece la situazione delle opere creative, artistiche, satiriche o di intrattenimento. In tali contesti, l’utilizzo dell’intelligenza artificiale non è normalmente finalizzato a produrre contenuti ingannevoli, ma piuttosto nuovi linguaggi espressivi. Per questa ragione lo stesso art. 50, par. 4, limita l’obbligo di disclosure per le opere manifestamente artistiche, creative, satiriche o di finzione, imponendone l’assolvimento in forme che non ostacolino la fruizione dell’opera: la trasparenza non deve trasformarsi in un ostacolo sproporzionato alla libertà creativa o alla libertà di espressione.

Ancora più complessa è la disciplina relativa ai testi generati o manipolati dall’intelligenza artificiale pubblicati per informare il pubblico su questioni di interesse generale.

Qui il rischio assume una dimensione sistemica.

Mentre il deepfake colpisce prevalentemente la percezione di un singolo evento o di una specifica persona, la produzione massiva di contenuti informativi sintetici può incidere sulla qualità complessiva del dibattito pubblico, alterando i meccanismi attraverso cui i cittadini formano le proprie opinioni.

Qui la deroga non è una scelta del Codice, ma è iscritta nella norma primaria: l’art. 50, par. 4, secondo comma, esclude l’obbligo di etichettatura per i testi generati o manipolati dall’IA e pubblicati per informare il pubblico su questioni di interesse generale quando il contenuto sia stato sottoposto a revisione umana o a controllo editoriale e vi sia una persona fisica o giuridica che assume la responsabilità editoriale della pubblicazione. È il Regolamento stesso, dunque, a riconoscere che l’intervento umano e l’assunzione di responsabilità editoriale svolgono una funzione di garanzia idonea a modificare la valutazione del rischio.

Ciò che conta, quindi, non è soltanto chi o cosa ha materialmente generato il contenuto, ma quale processo di responsabilità ne accompagna la diffusione.

La graduazione degli obblighi prevista dall’art. 50 AI Act anticipa così un principio destinato probabilmente a diventare centrale nei prossimi anni: la trasparenza non è un valore assoluto e uniforme, ma uno strumento che deve essere calibrato sul rischio concreto di inganno, manipolazione o alterazione della fiducia pubblica.

Il ruolo dei deployer: nasce una responsabilità comunicativa.

Uno degli aspetti più innovativi dell’art. 50 AI Act riguarda il progressivo spostamento dell’attenzione giuridica dal produttore della tecnologia ai deployer, ossia i soggetti che utilizzano concretamente sistemi di intelligenza artificiale per produrre o diffondere contenuti.

Per molti anni, il dibattito in merito alla regolamentazione delle tecnologie digitali si è concentrato quasi esclusivamente sui produttori delle piattaforme e sugli sviluppatori degli algoritmi.

L’AI Act introduce invece una prospettiva più matura: il rischio non nasce soltanto dalla progettazione della tecnologia, ma anche dalle modalità con cui essa viene impiegata nel contesto sociale, economico ed informativo.

Per questo motivo gli obblighi di trasparenza non gravano esclusivamente sui provider, ma coinvolgono anche coloro che decidono di utilizzare l’IA come strumento di comunicazione verso il pubblico.

Da questo punto di vista, la normativa europea rifiuta la narrazione secondo cui l’intelligenza artificiale sarebbe una sorta di soggetto autonomo capace di assorbire o sostituire la responsabilità umana.

Al contrario, si riafferma che ogni contenuto che entra nello spazio pubblico continua ad essere inserito in una filiera di decisioni riconducibili a persone fisiche o giuridiche identificabili: l’algoritmo produce, il deployer decide e la decisione di pubblicare resta un atto giuridicamente rilevante.

Questa impostazione è particolarmente evidente nella disciplina dei testi generati o manipolati dall’IA destinati a informare il pubblico su questioni di interesse generale. Come si è accennato in precedenza, è lo stesso art. 50 a stabilire che la presenza di un’effettiva revisione umana e di un controllo editoriale assume rilevanza ai fini degli obblighi di trasparenza. Non è quindi la mera esistenza di un intervento algoritmico a determinare automaticamente il rischio, bensì l’assenza di un soggetto che si assuma la responsabilità finale del contenuto.

In questa prospettiva emerge il concetto di responsabilità comunicativa, che potrebbe rappresentare una delle categorie giuridiche centrali dell’ecosistema informativo dei prossimi anni.

Chi utilizza l’IA per comunicare non è chiamato soltanto a dichiararne l’impiego, ma deve valutare gli effetti che quel contenuto potrebbe produrre sui destinatari. Deve interrogarsi sul rischio di confusione, sulla possibilità di attribuire erroneamente dichiarazioni a persone reali, sull’impatto che immagini, video o testi sintetici potrebbero avere sulla formazione dell’opinione pubblica.

In altre parole, l’obbligo di trasparenza non è un semplice dovere informativo, ma una manifestazione concreta del principio di accountability: il deployer è quindi chiamato a sviluppare procedure interne, criteri di verifica e politiche di comunicazione idonee a garantire un utilizzo responsabile della tecnologia.

L’etichetta costituisce soltanto la manifestazione finale di un processo molto più ampio: nell’era dell’intelligenza artificiale non basta sapere che un contenuto è stato generato da una macchina; occorre sapere chi ha deciso di utilizzarlo, chi ne ha verificato il contenuto e chi è disposto ad assumersene la responsabilità davanti al pubblico. È in questa filiera di decisioni, più che nell’algoritmo stesso, che si costruisce la fiducia informativa del futuro.

Il nodo tecnico: watermark, metadati e sistemi di detection non sono infallibili.

Il Codice di buone pratiche riconosce implicitamente che non esiste oggi una tecnologia capace di garantire, da sola, un’identificazione certa, permanente e universalmente verificabile dei contenuti sintetici.

Per questa ragione, il Codice promuove un approccio multilivello, basato sulla combinazione di diverse tecniche di marcatura e rilevazione.

Tra gli strumenti individuati, vi sono:

• i watermark digitali, ossia informazioni inserite all’interno del contenuto in modo visibile o invisibile all’utente (nei pixel di un’immagine o di un video o quali impronte identificative nei testi);
• i metadati, ovvero le informazioni associate al file, che descrivono elementi quali autore, data di creazione, software utilizzato o origine del contenuto e che dovrebbero accompagnare il contenuto lungo il suo ciclo di vita;
• i sistemi di detection, cioè degli strumenti progettati per individuare automaticamente contenuti generati o manipolati dall’intelligenza artificiale.

Tuttavia, tali strumenti presentano limiti significativi.

Esportazioni, conversioni o rielaborazioni del file, come un ritaglio dell’immagine o una parafrasi del testo, possono compromettere od eliminare il collegamento tra il contenuto e le informazioni che ne attestano la provenienza.

La detection si fonda su una corsa continua tra capacità di generazione e capacità di identificazione: ogni miglioramento nei modelli generativi riduce la possibilità di individuare tracce artificiali affidabili, mentre i sistemi di rilevazione devono costantemente adattarsi a tecniche sempre più sofisticate.

Per tali ragioni, la fiducia nell’ecosistema informativo non può essere delegata esclusivamente alla tecnologia. Watermark, metadati e sistemi di detection costituiscono strumenti essenziali, ma non possono sostituire procedure organizzative, controlli umani, responsabilità editoriali e obblighi di trasparenza.

In questa prospettiva, il valore più innovativo del Codice di buone pratiche non risiede nell’individuazione di una specifica soluzione tecnica, ma nel riconoscimento che la provenienza dei contenuti digitali deve essere gestita come un problema di governance prima ancora che di ingegneria.

Oltre l’etichetta: serve una catena di custodia del contenuto digitale.

In un ecosistema informativo nel quale i contenuti vengono continuamente copiati, modificati, decontestualizzati e redistribuiti attraverso una molteplicità di piattaforme, la semplice apposizione di un’etichetta che indichi che un contenuto è stato generato o manipolato da un sistema di IA non è sufficiente a garantire la fiducia digitale.

Il tema non è solo sapere se un contenuto sia stato generato da un’intelligenza artificiale, ma soprattutto conoscerne la provenienza, gli eventuali interventi umani, le verifiche effettuate prima della sua pubblicazione, il soggetto che ne risponde e, quindi, le ragioni per cui dovremmo fidarci.

Ciò che riveste massima importanza, quindi, è rendere ricostruibile la storia del contenuto digitale, lungo l’intera filiera della sua creazione e diffusione, preservando la c.d. catena di custodia dell’informazione: solo in questo modo la trasparenza potrà trasformarsi in fiducia.

In questo senso, il concetto destinato ad assumere rilevanza strategica nei prossimi anni è quello di provenance, ossia la capacità di documentare chi ha creato un contenuto, con quali strumenti, attraverso quali trasformazioni e sotto la responsabilità di quali soggetti.

In altre parole, l’autenticità diventa una caratteristica del processo, non del risultato finale: un contenuto sarà tanto più affidabile, quanto più sarà possibile ricostruirne origine, modifiche e responsabilità.

Questa evoluzione potrebbe incidere profondamente anche sul ruolo degli intermediari informativi: piattaforme digitali, motori di ricerca, social network, editori e provider di IA saranno sempre più chiamati a collaborare nella costruzione di ecosistemi di fiducia basati sulla tracciabilità.

Non basterà indicare che un contenuto è artificiale: occorrerà preservare metadati, rendere verificabili le informazioni sulla sua origine, documentare le operazioni di editing e consentire agli utenti di accedere a informazioni affidabili sulla sua storia.

Dal punto di vista giuridico, ciò implica anche una ridefinizione del concetto di responsabilità.

Tradizionalmente il diritto dell’informazione si è concentrato sulla veridicità del contenuto o sull’individuazione dell’autore.

Nell’ambiente generativo, invece, assume crescente importanza la capacità di dimostrare il percorso che conduce dalla creazione alla diffusione.

La responsabilità, quindi, non riguarderà soltanto ciò che viene comunicato, ma anche il modo in cui il contenuto viene documentato, conservato e reso verificabile.

In prospettiva, il vero diritto emergente potrebbe dunque non essere semplicemente il diritto a sapere che un contenuto è stato generato con l’IA, bensì un più ampio diritto all’origine del contenuto, che consenta di conoscere non solo l’esistenza dell’intervento algoritmico, ma l’intera filiera decisionale e tecnologica che ha portato quel contenuto nello spazio pubblico.

È qui che si gioca la sfida della fiducia digitale: il dibattito europeo sulla trasparenza dell’intelligenza artificiale dovrebbe essere interpretato non come l’avvio di una stagione di semplici obblighi informativi, ma come il primo passo verso la costruzione di una vera infrastruttura giuridica dell’autenticità digitale.