L’AI corre più della politica: cinque mosse per riprendere il controllo

L’intelligenza artificiale si è trasformata, in un brevissimo lasso di tempo, da promessa di progresso in un’accelerazione storica senza precedenti che comprime l’adozione di massa da decenni a mesi, industrializzando il lavoro cognitivo e concentrando poteri geopolitici immensi in pochissime mani.

Lo dicono con una chiarezza disarmante due tra i più importanti rapporti scientifici dell’anno: il Preliminary Report dell’Independent International Scientific Panel on AI dell’ONU e lo studio ‘The impact of the Artificial Intelligence on our societies’ della Direzione Generale per la Ricerca e l’Innovazione della Commissione Europea.

Le firme dietro questi documenti sono pesanti: da una parte un panel globale di 40 esperti guidato dal premio Turing Yoshua Bengio e dal premio Nobel Maria Ressa; dall’altra un’indagine europea coordinata dalle accademiche Ewa Luger e Marianthe Stavridou. Ciò che emerge è un verdetto unanime: la tecnologia sta correndo molto più velocemente della nostra capacità di misurarla, capirla e governarla.

Governance dell’intelligenza artificiale tra crisi epistemica e slop

Il primo terreno di scontro è la realtà stessa. Il Panel dell’Onu documenta un fenomeno spaventoso: l’erosione epistemica, ovvero la progressiva perdita della capacità delle società di distinguere il vero dal falso. Con la proliferazione dei deepfake si assiste al ‘dividendo del bugiardo’ (liar’s dividend): a un politico corrotto o a un attore malevolo basta sostenere che una prova reale e documentata sia in realtà un falso generato dall’IA per sottrarsi a ogni responsabilità.

Non è una minaccia teorica. Tra il 2023 e il 2024 sono stati documentati 82 casi di deepfake che impersonavano leader politici in 38 Paesi. L’apice è stato raggiunto in Romania, dove la Corte Costituzionale ha annullato per la prima volta nella storia le elezioni presidenziali a causa di amplificazioni algoritmiche non regolamentate e interferenze digitali.

Diritti epistemici, slop e giornalismo indipendente

A questo allarme globale, l’Unione Europea risponde introducendo il concetto di ‘diritti epistemici‘. I cittadini hanno il diritto fondamentale di accedere a informazioni veritiere, soprattutto durante le elezioni.

Ma questo diritto è quotidianamente soffocato dallo ‘slop’, una valanga di contenuti spazzatura generati artificialmente che inonda i social network, desensibilizzando i lettori.

Gli algoritmi di raccomandazione iper-personalizzati delle piattaforme social creano bolle cognitive e promuovono attivamente lo slop perché genera engagement e interazione. Il risultato è la disintermediazione: i motori di ricerca che mostrano riassunti IA in cima alla pagina riducono del 60% il traffico verso i siti di informazione primaria mettendo a rischio la sopravvivenza stessa del giornalismo indipendente d’inchiesta.

Big Tech e sorveglianza nella governance dell’IA

La seconda grande minaccia risiede nella mostruosa concentrazione del potere. Secondo i dati delle Nazioni Unite, gli Stati Uniti detengono il 75% della capacità di calcolo dei primi 500 supercomputer per l’IA al mondo; la Cina ne controlla il 15%. Il restante 10% è diviso tra tutto il resto del pianeta.

Questa asimmetria apre la strada ad una potenziale ‘cattura autoritaria’ della governance globale. Lo studio europeo descrive questo scenario parlando apertamente di ‘tecnofeudalismo‘.

I media tradizionali e le istituzioni pubbliche, per poter operare online, dipendono interamente dalle infrastrutture cloud private delle Big Five statunitensi (Google, Amazon, Microsoft, Meta e Apple). Come moderni signori feudali, questi monopoli tecnologici estraggono rendite digitali e decidono unilateralmente le regole dello spazio pubblico, esautorando i governi democratici della loro autorità sovrana.

Gli abusi di sorveglianza documentati in Europa

Questo squilibrio si riflette in abusi concreti sul territorio europeo, ampiamente documentati dal report tra il 2024 e il 2025:

• in Ungheria, le autorità hanno tentato di impiegare sistemi di IA per il riconoscimento facciale durante il Budapest Gay Pride per identificare e multare i partecipanti, violando direttamente l’AI Act europeo che vieta la sorveglianza biometrica negli spazi pubblici;
• in Italia, è emerso l’uso dello spyware Graphite contro i membri e gli attivisti dell’ONG umanitaria Mediterranea Saving Humans;
• in Grecia, lo scandalo ‘Predatorgate’ ha rivelato l’uso illegale dello spyware Predator per spiare oppositori politici e giornalisti, mentre il Ministero della Migrazione è stato sanzionato con 175.000 euro per aver sorvegliato biometricamente i richiedenti asilo nei campi profughi.
• in Francia e Danimarca, gli algoritmi predittivi per rilevare le frodi sociali hanno colpito in modo discriminatorio disabili e madri single, spingendo Amnesty International a denunciare la nascita di un vero e proprio ‘stato di sorveglianza automatizzato’.

Dalla moderazione alla sovranità: come governare l’intelligenza artificiale

Arrestare questa deriva richiede un cambio di paradigma. Non basta più moderare ex-post i singoli contenuti falsi: bisogna regolamentare l’architettura dei sistemi di influenza algoritmica. Le soluzioni proposte dai due rapporti riflettono la loro diversa natura geografica e istituzionale.

Test dinamici e accesso al calcolo nella proposta dell’ONU

L’Onu spinge per la creazione di un ‘Global Fund on AI’ per livellare l’accesso al calcolo per il Sud del mondo e per l’adozione di test dinamici ed esecutivi (dynamic, execution-based tests) in grado di scovare i comportamenti ingannevoli dei modelli (AI deception), inclusa la capacità di fingere di essere innocui durante le valutazioni (sandbagging).

Sovranità tecnologica e trasparenza nella strategia europea

La Commissione Europea, invece, punta sulla sovranità tecnologica regionale e sulla trasparenza. Tra le raccomandazioni spicca il supporto a standard aperti di provenienza dell’informazione, come le credenziali C2PA adottate dalla BBC per certificare l’origine dei file multimediali, e lo sviluppo di infrastrutture collaborative sovrane open-source (come la piattaforma di scrittura ‘Docs’ sviluppata congiuntamente da Francia e Germania, o il modello corporate ‘GPT@EC’) per scardinare la dipendenza oligopolistica dalle Big Tech americane.

Ma la tecnologia da sola non basta: lo studio europeo esorta a coinvolgere attivamente la cittadinanza non esperta tramite la governance partecipativa (il framework ‘WeBuildAI’) ed a integrare esperti di scienze sociali e discipline umanistiche, citando il successo del programma da 15,9 milioni di sterline ‘BRAID UK’, che studia la resilienza democratica e previene i danni dell’addestramento non consensuale dei modelli creativi.

Le priorità per una governance dell’intelligenza artificiale efficace

Accanto alle analisi emergono dai panel alcune raccomandazioni per quei policy makers che vogliano affrontare le sfide che sono state delineate:

1. Spostare la regolamentazione sull’architettura: Bandire o limitare severamente il micro-targeting pubblicitario e gli algoritmi ottimizzati per l’engagement polarizzante, disattivando l’infrastruttura commerciale della disinformazione.

2. Investire in infrastrutture sovrane pubbliche: Finanziare data center pubblici e promuovere modelli open-weights e open-source di interesse pubblico, riducendo la dipendenza geopolitica dalle multinazionali estere.

3. Istituire controlli dinamici indipendenti di terze parti: Sostituire l’autodichiarazione di conformità delle aziende produttrici con verifiche statali obbligatorie condotte da agenzie terze indipendenti, capaci di valutare le reali capacità di inganno dei modelli agentici.

4. Tutelare i lavoratori dalla sorveglianza algoritmica: Vietare tassativamente i sistemi di monitoraggio biometrico continuo sul posto di lavoro e garantire che l’integrazione dell’IA avvenga tramite contrattazione collettiva con i sindacati.

5. Sostenere una governance multilaterale permanente: Istituire sotto l’egida dell’Onu una piattaforma internazionale per l’armonizzazione degli standard di sicurezza e la sorveglianza contro la proliferazione transfrontaliera di malware agentici autonimi e campagne di influenza coordinate.

Governance multilaterale dell’IA a difesa della democrazia

La transizione globale verso l’era dell’intelligenza artificiale ha innescato un cambiamento sociotecnico senza precedenti, comprimendo i tempi di adozione a un ritmo mai registrato prima nella storia industriale. Come evidenziato sia dal report del Panel Scientifico Indipendente dell’ONU sia dallo studio indipendente della Commissione Europea, questa accelerazione ci colloca di fronte a un bivio storico. Le opportunità offerte dalla tecnologia rischiano di essere oscurate da minacce sistemiche che mettono a repentaglio l’integrità delle istituzioni democratiche e la coesione sociale.

L’IA possiede un immenso potenziale di amplificazione delle capacità umane, ma la sua traiettoria dipende dalla nostra capacità di governare la tecnologia anziché lasciarci governare da essa. Costruire una governance multilaterale permanente sotto l’egida dell’ONU e rafforzare l’applicazione dell’AI Act e del GDPR a livello europeo sono passi indispensabili affinché l’innovazione tecnologica non distrugga le conquiste democratiche del nostro tempo.