Il rapporto tra model collapse e politica pubblica apre una questione che va oltre la qualità dei singoli modelli: riguarda la tenuta del corpus digitale come infrastruttura conoscitiva collettiva e i limiti degli strumenti europei oggi disponibili.
Indice degli argomenti
Model collapse e politica pubblica: il rischio per il corpus digitale
L’analisi prende le mosse da una constatazione empirica la cui portata normativa è ancora largamente sottovalutata nel dibattito giuridico europeo. Nel luglio 2024, Ilia Shumailov e colleghi, ricercatori della University of Cambridge e di Google DeepMind, hanno pubblicato sulla rivista Nature uno studio che documenta, con rigore sperimentale, il fenomeno denominato model collapse: l’uso indiscriminato di contenuti generati da modelli artificiali nei corpus di addestramento di modelli successivi produce difetti irreversibili nei modelli risultanti, in cui le code della distribuzione originale dei contenuti scompaiono, il che può verificarsi nei grandi modelli linguistici, nelle architetture variational autoencoder e nei modelli mistura di gaussiane.1
Il meccanismo è statisticamente necessitato: ogni generazione di modello produce un’approssimazione della distribuzione dei dati reali che, per definizione, perde informazione sugli eventi rari; addestrare il modello successivo su questa approssimazione amplifica la perdita, cosicché iterazione dopo iterazione la rappresentazione del mondo si restringe attorno alle tendenze centrali, mentre la periferia informativa (in cui risiede la conoscenza specialistica, il dissenso culturale, le varietà linguistiche minoritarie, i casi limite scientificamente rilevanti) svanisce progressivamente.
Già nel 2023 il medesimo gruppo aveva pubblicato in forma di preprint il lavoro denominato The curse of recursion, che anticipava i risultati poi formalizzati su Nature, introducendo la nozione di self-consuming loop per descrivere il circolo vizioso in cui i modelli si nutrono dei propri output.2
La letteratura successiva ha approfondito le condizioni di insorgenza del fenomeno: Borji ha mostrato che il collasso è un fenomeno statistico tendenzialmente inevitabile nelle condizioni di addestramento realistico;3 Dohmatob e colleghi hanno dimostrato che il fenomeno persiste anche quando i dati sintetici sono mescolati con dati reali, purché la proporzione sintetica non tenda a zero;4 un gruppo di studio guidato da Gerstgrasser ha identificato nell’accumulo dei dati reali nel tempo, anziché nella loro sostituzione progressiva con dati sintetici, la condizione necessaria per evitare il collasso, suggerendo che la perdita di accesso ai corpus originali è una variabile critica.5
Queste asserzioni scientifiche acquisiscono una dimensione di politica pubblica quando si considera il contesto in cui i modelli di linguaggio di nuova generazione vengono addestrati. Il web, che costituisce la fonte primaria dei corpus di addestramento più ampi, è soggetto a una contaminazione crescente e misurabile da contenuti sintetici; analisi condotte sulla composizione del dataset LAION-5B, uno dei corpus di riferimento per i modelli generativi, hanno già rilevato contaminazione da fonti sintetiche.6
Con il moltiplicarsi di agenti conversazionali, strumenti di generazione automatica di testi, piattaforme di content farming assistite dall’AI e la progressiva automazione della produzione editoriale digitale, la proporzione di contenuti sintetici nel corpus web è destinata a crescere in modo significativo: alcune stime, che si devono trattare con la cautela metodologica che la natura proiettiva impone, suggeriscono che entro il 2026 una quota rilevante dei testi disponibili online sarà di origine non umana, sebbene le stime precise varino considerevolmente a seconda dei criteri di classificazione adottati.
Si sostiene, in questo contributo, che il model collapse è una forma di degenerazione conoscitiva del corpus informativo collettivo che eccede la capacità di risposta degli strumenti giuridici attualmente disponibili e che la sua comprensione come problema di politica pubblica richiede un’analisi che attraversi le categorie della data governance, del diritto dell’informazione e della teoria dei beni comuni digitali.
Model collapse come danno collettivo alla diversità conoscitiva
Prima di procedere all’analisi normativa, è necessario precisare la natura del danno che il model collapse produce, poiché dalla sua qualificazione dipende la scelta degli strumenti giuridici appropriati.
Il danno non è riducibile alla diminuzione della qualità dei singoli output del modello, benché questa sia la manifestazione più immediatamente percepibile. La perdita delle code della distribuzione informativa (in termini statistici, la riduzione dell’entropia del corpus rappresentato dal modello) corrisponde, sul piano conoscitivo, all’impoverimento della capacità del sistema di rappresentare la realtà nella sua varietà: le varianti linguistiche rare cessano di essere rappresentate; le prospettive minoritarie su questioni controverse vengono assorbite nella tendenza centrale; la conoscenza specialistica di nicchia, che è precisamente la conoscenza a più alta densità informativa e a più bassa ridondanza, svanisce prima.
Questo processo non è reversibile per via puramente algoritmica una volta che i dati originali siano irrecuperabili o inaccessibili; la perdita di informazione nelle code della distribuzione è strutturalmente permanente nel modello che ne eredita il corpus.
Il danno ha, pertanto, una dimensione collettiva che lo distingue dagli illeciti tradizionali del diritto dell’informazione. Non si tratta della lesione di un diritto individuale identificabile, né di un danno ascrivibile a un soggetto determinato attraverso le categorie ordinarie della causalità giuridica. Si tratta, piuttosto, di un processo di degenerazione progressiva di un’infrastruttura conoscitiva condivisa – il corpus digitale da cui i modelli futuri attingeranno la propria rappresentazione del mondo – rispetto alla quale nessun singolo attore è responsabile in senso tecnico-giuridico, ma rispetto alla quale tutti gli attori che contribuiscono al rilascio non marcato di contenuti sintetici sul web concorrono causalmente.
La categoria teorica più adeguata a descrivere questa struttura è quella del commons nella formulazione elaborata da Ostrom e ripresa dalla letteratura sui beni digitali comuni: il corpus informativo autentico del web è un bene comune da cui nessuno può essere escluso nell’uso e il cui godimento non è rivale nel senso tecnico, infatti consultarlo non lo esaurisce, ma che è tuttavia soggetto a degenerazione sistemica quando la sua integrità qualitativa non è presidiata da regole di accesso e contribuzione.7
In questa lettura, il model collapse è la versione conoscitiva della tragedy of the commons elaborata da Hardin secondo cui ogni singolo produttore di contenuti sintetici non marcati ha un incentivo razionale a rilasciarli sul web, poiché il costo della contaminazione del corpus collettivo è distribuito su tutti gli utenti futuri, mentre il beneficio è catturato individualmente. In assenza di regole vincolanti che internalizzino questo costo esterno, il risultato aggregato è la degenerazione del bene comune.
AI Act e model collapse: governance dei dati senza presidio del corpus
L’articolo 10 del Regolamento (UE) 2024/1689 disciplina la governance dei dati di addestramento, validazione e test per i sistemi ad alto rischio. Il paragrafo 2 impone che tali dati siano soggetti a pratiche appropriate di governance e gestione dei dati, con riferimento, tra l’altro, alle scelte di design dei dati, alle procedure di raccolta, all’origine dei dati, alle procedure di etichettatura, alla pulizia, all’aggiornamento, all’arricchimento e all’aggregazione dei dati.
Il paragrafo 3 richiede che i dataset siano pertinenti, sufficientemente rappresentativi e, nei limiti del possibile, privi di errori e completi in relazione allo scopo previsto.
L’articolo 10 costituisce, nella logica del Regolamento, uno strumento di accountability privatistica: impone al fornitore del sistema ad alto rischio di documentare e giustificare le proprie scelte di governance dei dati, ma non istituisce alcun meccanismo collettivo di presidio della qualità del corpus digitale come bene comune.
L’obbligo di assicurare che i dati siano «sufficientemente rappresentativi» è calibrato sulle esigenze del singolo sistema, non sulla preservazione della diversità del corpus aggregato, ciò comporta che un fornitore può soddisfare l’obbligo selezionando un dataset rappresentativo per le proprie finalità, anche se quel dataset è già contaminato da quote significative di contenuti sintetici di generazioni precedenti. Il Regolamento non richiede né la tracciabilità della proporzione sintetica nel corpus di addestramento, né l’adozione di misure per limitarla; richiede soltanto che la governance dei dati sia «appropriata allo scopo previsto» – una formulazione che lascia un margine di discrezionalità applicativa considerevole e che non è strutturata per rispondere a un fenomeno sistemico quale il model collapse.
Articolo 53, template GPAI e provenance dei dati sintetici
L’articolo 53, paragrafo 1, lettera d), del Regolamento impone ai fornitori di modelli di IA per uso generale (GPAI) di redigere e rendere pubblicamente disponibile un sommario sufficientemente dettagliato del contenuto utilizzato per l’addestramento del modello, secondo un template predisposto dall’AI Office. Il 24 luglio 2025, la Commissione europea ha pubblicato il template obbligatorio che richiede la divulgazione di informazioni strutturate sulle tipologie di contenuti, le fonti, i metodi di raccolta, e, significativamente, la presenza di dati sintetici generati da altri modelli AI, con indicazione dei modelli sorgente e descrizione della loro origine.8
Questa disposizione rappresenta un primo riconoscimento normativo della rilevanza della provenance dei dati sintetici nel corpus di addestramento. Si osserva, tuttavia, che il sommario è concepito come strumento di trasparenza verso i detentori di diritti d’autore, difatti la sua finalità primaria è, come esplicitato nell’Explanatory Notice che accompagna il template, quella di consentire ai titolari dei diritti di esercitare e far valere i propri diritti ai sensi del diritto dell’Unione, non quella di preservare la qualità conoscitiva del corpus informativo collettivo.
Il template non impone limiti quantitativi alla proporzione di dati sintetici nel corpus, né richiede la valutazione dell’impatto del corpus sulla diversità informativa del modello risultante. La trasparenza che istituisce è una trasparenza dichiarativa ex post, non un presidio preventivo della qualità del corpus.
L’asimmetria è, a dir poco, rilevante. Un fornitore GPAI che utilizza corpus composti in proporzione significativa da output di modelli precedenti non commette, in forza dell’articolo 53, alcuna violazione purché dichiari questa circostanza nel sommario pubblico. Il sistema normativo informa, ma non corregge.
Articolo 50, watermarking e limiti della marcatura
L’articolo 50, paragrafo 2, del Regolamento stabilisce che i fornitori di sistemi AI in grado di generare contenuti sintetici (audio, immagine, video o testo) devono assicurare che gli output siano contrassegnati in formato leggibile meccanicamente e rilevabili come artificialmente generati o manipolati. Le soluzioni tecniche devono essere efficaci, interoperabili, robuste e affidabili nei limiti del tecnicamente fattibile. Le disposizioni dell’articolo 50 diventano applicabili il 2 agosto 2026; la Commissione ha avviato un processo di codificazione tecnica attraverso il Code of Practice on Transparency of AI-Generated Content, il cui primo draft è stato pubblicato il 17 dicembre 2025.
Questo strumento è il più direttamente rilevante rispetto al problema del model collapse, poiché la marcatura del contenuto sintetico è la precondizione tecnica per la sua identificazione e la conseguente possibilità di escluderlo dai corpus di addestramento futuri.
Tuttavia, l’obbligo di watermarking dell’articolo 50 è calibrato sulla tutela del destinatario del contenuto; la sua ratio è la prevenzione della disinformazione e la tutela della fiducia nell’informazione e non sul presidio della qualità del corpus di addestramento come bene collettivo. La filiera causale tra marcatura del contenuto e protezione del corpus è mediata da scelte tecniche e organizzative che il Regolamento non impone: un modello potrebbe rispettare l’obbligo di marcatura dei propri output e, tuttavia, addestrare i modelli successivi senza filtrare i contenuti marcati dai corpus di scraping.
Lo stesso Draft Code of Practice on Transparency of AI-Generated Content, pubblicato, nella sua prima bozza, dall’AI Office il 17 dicembre 2025 in preparazione all’applicabilità dell’articolo 50 nell’agosto 2026, rivela nella sua struttura tecnica le difficoltà che il regime di watermarking incontra come strumento di protezione del corpus di addestramento. Il Code riconosce esplicitamente che nessuna tecnica di marcatura singola soddisfa congiuntamente i requisiti di efficacia, interoperabilità, robustezza e affidabilità imposti dal Regolamento e che i sistemi di rilevamento implementati dai fornitori non devono limitarsi a individuare i contenuti marcati, ma devono coprire anche i contenuti sintetici non marcati ammettendo, così, implicitamente, l’insufficienza della sola marcatura come presidio.
A ciò si aggiunge una difficoltà tecnica che il Codice segnala senza però risolverla: i segni di watermarking progettati per sopravvivere all’ispezione umana rischiano di essere appresi come caratteristiche spurie durante l’addestramento dei modelli successivi, mentre i segni adatti alla verifica meccanica sono fragili rispetto alle trasformazioni ordinarie subite dai dati nel corso dei processi di raccolta e preparazione dei corpus.9
Si sostiene che questa architettura regolativa (trasparenza dichiarativa ex post, watermarking orientato alla tutela del destinatario, nessun limite quantitativo alla proporzione sintetica nei corpus) è funzionalmente adeguata agli obiettivi che il legislatore europeo si è prefisso (contrasto alla disinformazione, tutela dei diritti d’autore, informazione del destinatario), ma è strutturalmente inadeguata a rispondere alla dimensione sistemica del model collapse come problema di qualità del corpus digitale collettivo.
Corpus digitale e model collapse: la lacuna europea
L’analisi svolta nella sezione precedente consente di precisare la natura della lacuna normativa con maggiore esattezza di quanto il dibattito corrente, prevalentemente orientato alla compliance operativa, abbia fatto. La lacuna non riguarda l’assenza di regole sui dati di addestramento (queste esistono, come detto, nell’articolo 10 e nell’articolo 53) ma riguarda la struttura dei soggetti a cui quelle regole si rivolgono e degli interessi che esse presidiano.
Le disposizioni esistenti sono articolate come obblighi del singolo fornitore di sistemi AI o di modelli GPAI nei confronti di interessi privati identificabili: i titolari dei diritti d’autore, gli utenti dei sistemi, le autorità di vigilanza. La dimensione collettiva del problema, ossia la preservazione della diversità conoscitiva del corpus digitale come precondizione della qualità dell’intelligenza artificiale futura, invece, non è presidiata da nessuna delle disposizioni vigenti, perché nessuna di esse identifica questo interesse come oggetto di tutela autonoma, né istituisce un meccanismo istituzionale incaricato di perseguirlo.
L’analogia con il regime europeo della diversità biologica è illuminante per contrasto. La Direttiva 92/43/CEE sugli habitat naturali istituisce, tra l’altro, un sistema di aree protette (la rete Natura 2000) proprio perché riconosce che la diversità biologica è un bene che i meccanismi di mercato non preservano spontaneamente: la sua erosione non è imputabile ad alcun singolo attore, ma è il risultato aggregato di scelte razionali individualmente legittime. Il corpus informativo digitale autentico ha strutturalmente le medesime caratteristiche: è un bene la cui erosione progressiva non è attribuibile ad alcun singolo responsabile, ma è il risultato aggregato di scelte razionali – la produzione di contenuti sintetici non marcati – che, individualmente, non configurano alcuna violazione.
La domanda che il quadro normativo europeo non ha ancora affrontato è se e con quali strumenti esista un interesse pubblico alla preservazione della «diversità conoscitiva» del corpus digitale, analogamente a come esistono interessi pubblici alla diversità biologica, alla diversità culturale (presidiata dalla Convenzione UNESCO del 2005) e alla diversità linguistica. Si tratta di una domanda che non ha ancora una risposta nel diritto positivo europeo e che richiede un lavoro concettuale preliminare prima ancora che normativo.
$INFOGRAFICA (prodotta con l’ausilio di uno strumento di GenAI).
Risposte normative al model collapse tra provenance e archivi autentici
L’individuazione degli strumenti normativi potenzialmente adeguati a rispondere al problema del model collapse come questione di politica pubblica richiede di distinguere tra interventi operativi nel breve termine che possono essere costruiti sull’architettura regolativa esistente ed interventi strutturali che richiedono un’elaborazione normativa genuinamente nuova.
Nel breve termine, l’estensione degli obblighi dell’articolo 10 del AI Act per includere la documentazione della proporzione di dati sintetici nel corpus di addestramento, con la distinzione tra dati sintetici di prima generazione (prodotti da modelli addestrati su dati umani) e dati sintetici di generazioni successive, costituirebbe un primo presidio informativo.
Questa estensione non richiederebbe una modifica legislativa poichè potrebbe essere operata mediante atti delegati della Commissione ai sensi dell’articolo 10, paragrafo 2, o mediante linee guida dell’AI Office. L’obbligo di dichiarare la proporzione sintetica nel template dell’articolo 53 è già presente in forma embrionale, infatti il template richiede di identificare se sono stati usati dati sintetici generati da altri modelli AI e di indicare i modelli sorgente, ma la dichiarazione è narrativa e non quantitativa e non è accompagnata da alcun obbligo di valutazione dell’impatto sulla qualità del corpus.
Nel medio termine, la questione della provenance dei dati di addestramento è la precondizione tecnica per qualsiasi risposta normativa più ambiziosa. Gli standard tecnici di provenance – tra cui la specifica C2PA (Coalition for content authenticity and provenance), lo standard ISO/IEC 22144 per l’autenticità dei contenuti e i lavori in corso dell’ITU e dell’ISO sul trust metadata – stanno convergendo verso una composizione di marcatura stratificata che potrebbe, in linea di principio, rendere tracciabile l’origine sintetica o umana di ciascun contenuto attraverso generazioni successive di modelli.10 L’AI Act menziona questi standard nell’ambito dell’articolo 50, ma non li integra in un regime di data governance del corpus di addestramento.
Nel lungo termine, la domanda più radicale è se il presidio della qualità del corpus digitale richieda forme di intervento pubblico che vadano oltre la regolazione dell’attività dei fornitori di sistemi AI, fino a istituire meccanismi di conservazione attiva del corpus autentico: archivi pubblici di contenuti umani verificati, analogamente agli archivi nazionali della produzione editoriale o agli archivi genetici delle varietà biologiche a rischio.
Questa prospettiva non è priva di precedenti normativi: il Regolamento (UE) 2022/868 sul Data Governance Act istituisce meccanismi per la condivisione dei dati di interesse pubblico e la logica di preservazione del corpus autentico potrebbe essere costruita come estensione di questi meccanismi. Si tratta, tuttavia, di un intervento che richiederebbe scelte politiche sulla definizione di corpus autentico e sui criteri di accesso che sono lontane dall’essere state elaborate.
Politica pubblica e ritardo del diritto
È noto che il diritto ha sempre seguito la tecnica con un ritardo che non è contingente ma strutturale: le categorie giuridiche si formano sull’esperienza sedimentata e l’esperienza sedimentata riflette un mondo che, nel momento in cui il diritto lo nomina, è già mutato. Questa latenza è tollerabile quando le trasformazioni tecnologiche si inscrivono, pur nella loro novità, entro strutture causali e soggettive che il diritto già conosce. Diventa intollerabile quando la trasformazione investe non i mezzi dell’agire umano, ma le condizioni della conoscenza collettiva su cui ogni agire e ogni responsabilità si fonda.
Il model collapse appartiene a questa seconda categoria. Non è una nuova forma di danno individuale che attende una norma nuova per essere risarcito, bensì è un processo di degradazione lenta, aggregata, causalmente diffusa che erode la diversità conoscitiva del corpus digitale senza che nessun soggetto la voglia, senza che nessuna condotta singola la produca e senza che il diritto vigente (costruito sull’illecito come atto imputabile a un responsabile identificabile) disponga degli strumenti concettuali per nominarla come problema giuridico prima ancora che come problema tecnico. Il contributo ha tentato di individuare una lacuna di categorie, più che una lacuna di norme.
E si ritiene di suggerire due strade che segnano il lavoro da fare.
Corpus informativo digitale autentico come bene comune
La prima è concettuale e riguarda la struttura giuridica del corpus informativo digitale autentico come bene comune. L’ipotesi è una proposizione teorica con conseguenze operative precise sul tipo di regime normativo appropriato, ma che esige di essere verificata rispetto alle condizioni che la teoria dei commons, da Ostrom in poi, ha elaborato per distinguere le risorse collettive governabili da quelle destinate al collasso per sovrautilizzo. Le condizioni di non rivalità e di vulnerabilità al degrado aggregato sono soddisfatte dal meccanismo stesso del model collapse. Ciò che manca, nella mappatura ostromiana, è la comunità di riferimento: chi sono i soggetti che contribuiscono al corpus, chi ne dipende e chi ha legittimazione a istituire e far rispettare le regole di utilizzo?
Il corpus è globale, i contributori sono miliardi di individui che non si sono mai coordinati, i dipendenti sono i laboratori di AI e, in modo mediato ma strutturalmente rilevante, tutti i futuri utenti dei sistemi addestrati su quel corpus. Costruire un regime di governance su una comunità così eterogenea, senza un centro istituzionale riconosciuto, è il problema tecnico-giuridico che la teoria dei beni comuni digitali non ha ancora affrontato in questa forma specifica.
Diversità conoscitiva e modello UNESCO
La seconda questione è normativa e concerne la trasponibilità del modello della diversità culturale al problema della diversità conoscitiva del corpus digitale. La Convenzione UNESCO del 2005 ha istituito un regime internazionale fondato sul riconoscimento che la diversità culturale è un bene che i meccanismi di mercato non preservano spontaneamente e che esige un intervento pubblico deliberato per sopravvivere alla pressione omologatrice dei mercati globali. La struttura del modello è, in astratto, trasponibile: riconosce un interesse collettivo alla diversità come valore in sé, indipendente dalla sua utilità immediata per singoli attori; prevede obblighi statali di preservazione attiva; ammette misure che restringono la libertà di mercato in nome di un interesse superiore.
Ciò che rende la trasposizione non immediata è la differenza tra i beni da tutelare. La diversità culturale della Convenzione UNESCO è la diversità delle espressioni di comunità identificabili (come le lingue e le tradizioni) rispetto alle quali è possibile costruire indicatori, monitorare tendenze e designare responsabilità istituzionali della tutela. La diversità conoscitiva del corpus digitale è la distribuzione statistica dell’informazione in un corpus globale e diffuso, senza comunità di riferimento, senza indicatori consolidati, senza un’istituzione internazionale che ne abbia la custodia.
Queste differenze non rendono il modello inapplicabile, ma ne condizionano la trasposizione poichè richiedono che si costruiscano, prima ancora degli obblighi normativi, gli strumenti di misurazione della diversità conoscitiva e l’infrastruttura istituzionale che possa custodirla. Sembra che nessun programma internazionale sia stato specificamente dedicato alla misurazione e alla preservazione della diversità conoscitiva del corpus digitale come bene autonomo distinto dalla tutela del diritto d’autore o dalla sicurezza dei sistemi AI.
E il tempo è tiranno, dato che ogni ciclo di addestramento che incorpora dati sintetici non filtrati restringe lo spazio entro cui una risposta normativa può ancora essere efficace. Vi sono momenti in cui il ritardo strutturale del diritto sulla tecnica diventa irreversibile. Riconoscerli in anticipo è, forse, il compito più difficile e più necessario che la scienza giuridica possa assumersi.
Bibliografia
Fonti normative
Regolamento (UE) 2024/1689 del Parlamento europeo e del Consiglio, del 13 giugno 2024, che stabilisce regole armonizzate sull’intelligenza artificiale (legge sull’intelligenza artificiale), GUUE L, 2024/1689, 12 luglio 2024.
Regolamento (UE) 2022/868 del Parlamento europeo e del Consiglio, del 30 maggio 2022, relativo alla governance europea dei dati (regolamento sulla governance dei dati), GUUE L 152, 3 giugno 2022, pp. 1-44.
Direttiva (UE) 2019/790 del Parlamento europeo e del Consiglio, del 17 aprile 2019, sul diritto d’autore e sui diritti connessi nel mercato unico digitale, GUUE L 130, 17 maggio 2019, pp. 92-125.
UNESCO, Convenzione sulla protezione e la promozione della diversità delle espressioni culturali, adottata il 20 ottobre 2005, entrata in vigore il 18 marzo 2007.
Fonti istituzionali
Commissione europea, AI Office, Explanatory Notice and Template for the Public Summary of Training Content for General-Purpose AI (GPAI) Models, 24 luglio 2025.
Commissione europea, AI Office, Code of Practice for General-Purpose AI Models, versione finale, 10 luglio 2025.
Commissione europea, AI Office, Draft Code of Practice on Transparency of AI-Generated Content, primo draft, 17 dicembre 2025.
Fonti scientifiche
Alemohammad, S. et al., «Self-Consuming Generative Models go MAD», arXiv preprint, arXiv:2307.01850, 2023.
Borji, A., «A Note on Shumailov et al. (2024): AI Models Collapse When Trained on Recursively Generated Data», arXiv preprint, arXiv:2410.12954, 2024.
Dohmatob, E. et al., «Strong Model Collapse», arXiv preprint, arXiv:2410.04840, 2024.
Gerstgrasser, M. et al., «Is model collapse inevitable? breaking the curse of recursion by accumulating real and synthetic data», arXiv preprint, arXiv:2404.01413, 2024.
Schaeffer, R. et al., «Position: model collapse does not mean what you think», arXiv preprint, arXiv:2503.03150, 2025.
Shumailov, I. et al., «The curse of recursion: training on generated data makes models forget», arXiv preprint, arXiv:2305.17493, 2023.
Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R. e Gal, Y., «AI models collapse when trained on recursively generated data», Nature, vol. 631, n. 8022, 2024, pp. 755-759.
Dottrina
Benkler, Y., The wealth of networks: how social production transforms markets and freedom, Yale University Press, New Haven, 2006.
Ostrom, E., Governing the Commons: the evolution of institutions for collective action, Cambridge University Press, Cambridge, 1990.
I riferimenti tecnici sono: C2PA Technical Specification, versione 2.1, Coalition for Content Authenticity and Provenance, 2024; ISO/IEC 22144:2023, Information technology – Media context and control – Format for timed text intended to be overlaid on video; i lavori dell’ITU-T Study Group 16 e dell’ISO/IEC JTC 1/SC 29 sul trust metadata per i contenuti generativi.↩︎
I. Shumailov, Z. Shumaylov, Y. Zhao, N. Papernot, R. Anderson e Y. Gal, «AI models collapse when trained on recursively generated data», Nature, vol. 631, n. 8022, 2024, pp. 755-759, doi: 10.1038/s41586-024-07566-y.↩︎
I. Shumailov et al., «The curse of recursion: training on generated data makes models forget», arXiv preprint, arXiv:2305.17493, 2023. Il preprint anticipa i risultati poi formalizzati nel contributo del 2024 su Nature e costituisce la fonte primaria della nozione di self-consuming loop.↩︎
A. Borji, «A Note on Shumailov et al. (2024): ai models collapse when trained on recursively generated data», arXiv preprint, arXiv:2410.12954, versione v2 del 24 ottobre 2024. Borji dimostra che il collasso è un fenomeno statistico che emerge dalle proprietà dell’approssimazione della distribuzione per campionamento finito, indipendentemente dall’architettura specifica del modello.↩︎
E. Dohmatob et al., «Strong Model Collapse», arXiv preprint, arXiv:2410.04840, 2024. Il contributo dimostra che il collasso persiste quando i dati sintetici sono mescolati con dati reali, purché la proporzione sintetica non tenda a zero, contraddicendo l’intuizione che una piccola percentuale di dati sintetici sia innocua.↩︎
M. Gerstgrasser et al., «Is model collapse inevitable? Breaking the curse of recursion by accumulating real and synthetic data», arXiv preprint, arXiv:2404.01413, 2024. Gli autori dimostrano che l’accumulo dei dati reali nel tempo è la condizione necessaria per evitare il collasso, con implicazioni dirette sulla necessità di preservare l’accesso ai corpus originali.↩︎
La contaminazione da fonti sintetiche del dataset LAION-5B è documentata in S. Alemohammad et al., «Self-Consuming Generative Models Go MAD», arXiv preprint, arXiv:2307.01850, 2023 che analizza i self-consuming loops in modelli generativi, con riferimento empirico alla composizione di dataset pubblici.↩︎
Il riferimento è alla teoria dei commons elaborata da E. Ostrom, Governing the Commons: The Evolution of Institutions for Collective Action, Cambridge University Press, Cambridge, 1990, e alla sua declinazione ai beni digitali in Y. Benkler, The Wealth of Networks: How Social Production Transforms Markets and Freedom, Yale University Press, New Haven, 2006.↩︎
Commissione europea, AI Office, Explanatory Notice and Template for the Public Summary of Training Content for General-Purpose AI (GPAI) Models, pubblicato il 24 luglio 2025, in adempimento dell’obbligo di cui all’articolo 53, paragrafo 1, lettera d), del Regolamento (UE) 2024/1689. Il template è qui.↩︎
Commissione europea, Ufficio AI, Draft code of practice on transparency of ai-generated content, primo draft, 17 dicembre 2025, sezioni dedicate agli obblighi di marcatura e rilevamento ai sensi dell’articolo 50, paragrafo 2, del Regolamento (UE) 2024/1689. Il percorso del Codice è disponibile qui.↩︎
Partecipa alla community