Nel luglio 2026 l’Independent International Scientific Panel on AI, il gruppo di esperti costituito dalle Nazioni Unite per fotografare lo stato dell’arte dei rischi legati all’intelligenza artificiale, ha pubblicato il suo rapporto preliminare [1]. È un documento che raccoglie evidenze da tutto il mondo e le organizza per aree tematiche, dalla sicurezza dei sistemi più avanzati alla loro sostenibilità ambientale, dalla qualità dei dati che li addestrano alla capacità delle istituzioni di governarli davvero.
È interessante confrontarlo con un documento nato in un contesto molto più circoscritto, quello degli enti locali italiani: l’Augmented RenAIssance Manifesto, pubblicato in licenza aperta CC-BY 4.0 sulle pagine di Agenda Digitale e concepito come cornice etica per l’adozione dell’intelligenza artificiale nella pubblica amministrazione.
Il confronto non è scontato, perché i due testi nascono per pubblici e scopi diversi, ma proprio per questo mostra qualcosa di utile: molti dei rischi e delle opportunità che l’ONU segnala come prioritari a livello globale trovano già una risposta operativa in un documento pensato per la scala comunale.
Indice degli argomenti
Intelligenza artificiale nella pubblica amministrazione e controllo umano
Il primo punto di contatto riguarda il controllo umano sui sistemi automatizzati. Il rapporto ONU dedica ampio spazio al tema della supervisione, sottolineando come la crescente autonomia dei sistemi agentici renda sempre più necessario garantire che una persona possa intervenire, correggere o fermare una decisione algoritmica prima che produca effetti irreversibili. Il Manifesto affronta lo stesso nodo fin dai suoi principi fondativi, ponendo la centralità della persona come criterio guida e stabilendo che nessun sistema di intelligenza artificiale possa sostituirsi al giudizio umano nelle decisioni che riguardano i cittadini.
La letteratura sul settore pubblico conferma quanto questo nodo sia tutt’altro che scontato nella pratica: una ricerca pubblicata sul Journal of Public Administration Research and Theory [2] osserva che quando un funzionario si trova a validare una decisione già suggerita da un algoritmo tende a sviluppare forme di automation bias o di adesione selettiva al suggerimento ricevuto, un fenomeno che rischia di svuotare la supervisione umana della sua funzione reale se non è accompagnata da procedure che la rendano effettiva e non solo formale. Il principio del Manifesto, richiedendo un punto di verifica umana esplicito in ogni processo automatizzato, si muove nella stessa direzione che questa letteratura indica come necessaria.
Governance, responsabilità e tracciabilità dell’IA nella PA
Un secondo terreno comune è quello della responsabilità e della tracciabilità delle decisioni. Il rapporto delle Nazioni Unite osserva che uno dei problemi più diffusi a livello globale è la frammentazione dei quadri di governance: esistono principi etici enunciati da molte organizzazioni, ma raramente vengono tradotti in meccanismi concreti che permettano di individuare chi risponde di un errore o di un danno causato da un sistema di IA. Il Manifesto risponde a questo vuoto ancorando ogni applicazione dell’intelligenza artificiale a un responsabile identificabile, secondo una logica di accountability che rifiuta l’anonimato decisionale tipico di molti sistemi automatizzati, rafforzata dal richiamo esplicito al rispetto della normativa europea e nazionale vigente in materia di intelligenza artificiale.
Dati, sicurezza e qualità dei sistemi pubblici di IA
Il tema della qualità e della rappresentatività dei dati è un altro punto in cui i due documenti si intersecano con precisione. Il rapporto ONU segnala che i modelli di intelligenza artificiale, se addestrati su dati non rappresentativi o distorti, tendono a riprodurre e amplificare disuguaglianze esistenti, e cita esplicitamente il rischio di erosione dell’integrità informativa legato alla disinformazione generata o amplificata da sistemi automatizzati. Il Manifesto affronta questo nodo con un principio dedicato alla qualità dei dati di addestramento, richiedendo che i dataset utilizzati dalla pubblica amministrazione siano verificati, rappresentativi e privi di distorsioni sistematiche prima di essere impiegati in servizi rivolti ai cittadini.
La sicurezza dei dati nel quadro europeo
In questo stesso ambito trova posto anche la sicurezza dei dati trattato dal rapporto ONU: il principio del Manifesto dedicato alla governance del dato richiede la cifratura a riposo e in transito come requisito minimo per ogni trattamento, un presidio tecnico che si inserisce coerentemente nel quadro più ampio disegnato dalla direttiva europea NIS2, la quale impone alle pubbliche amministrazioni misure di gestione del rischio informatico proporzionate alla criticità dei sistemi trattati, inclusi quelli basati su intelligenza artificiale.
Sostenibilità dell’intelligenza artificiale negli enti pubblici
Anche la sostenibilità ambientale dell’intelligenza artificiale trova una corrispondenza diretta. Il rapporto ONU inserisce l’impatto energetico e ambientale dei sistemi di IA tra le aree da monitorare con maggiore attenzione, pur riconoscendo che le evidenze quantitative disponibili sono ancora parziali rispetto ad altri rischi più consolidati. L’OCSE, nel suo report sulla misurazione degli impatti ambientali del calcolo e delle applicazioni di intelligenza artificiale, arriva a una conclusione compatibile: chiede ai decisori pubblici di stabilire standard di misurazione, ampliare la raccolta dati e migliorare la trasparenza sugli impatti diretti e indiretti dell’IA sull’ambiente, proprio perché a oggi mancano ancora strumenti condivisi per quantificarli con precisione [3].
Il Manifesto anticipa questa sensibilità con un principio specifico sulla sostenibilità computazionale, chiedendo che l’adozione di soluzioni di intelligenza artificiale da parte dell’ente pubblico tenga conto del loro impatto energetico e non venga valutata solo in termini di efficienza amministrativa.
Competenze e alfabetizzazione sull’IA nella pubblica amministrazione
Un ulteriore punto di convergenza riguarda la capacità delle istituzioni e delle persone di comprendere davvero gli strumenti che utilizzano. Il rapporto ONU insiste sulla necessità di sviluppare competenze diffuse sull’intelligenza artificiale all’interno delle organizzazioni, segnalando che l’assenza di una alfabetizzazione adeguata è tra le cause principali di un’adozione superficiale o rischiosa dei sistemi automatizzati. Il Manifesto risponde a questa esigenza con il principio della formazione continua, che richiede un aggiornamento costante delle competenze di chi opera con l’intelligenza artificiale nella pubblica amministrazione, e con uno dei suoi strumenti operativi dedicato proprio a garantire consapevolezza e alfabetizzazione sull’IA.
La letteratura accademica più recente conferma che questa non può essere un’iniziativa episodica: uno studio che propone un modello strutturato per valutare e sviluppare l’alfabetizzazione sull’intelligenza artificiale nelle organizzazioni osserva che le competenze vanno costruite a più livelli, dai dirigenti al personale operativo, e integrate stabilmente nella pianificazione strategica, non trattate come un corso una tantum [4].
Casi d’uso dell’IA pubblica e consenso informato dei cittadini
Il rapporto ONU sottolinea anche una difficoltà pratica spesso sottovalutata: individuare quali siano davvero i casi d’uso dell’intelligenza artificiale più utili e più legittimi da adottare, distinguendoli da applicazioni che generano più rischi che benefici. Su questo fronte l’OCSE ha recentemente pubblicato un’analisi di cinquanta casi d’uso di IA nella partecipazione pubblica in ventidue paesi membri, raccomandando di rafforzare proprio l’alfabetizzazione dei cittadini e il loro coinvolgimento nella progettazione e nella governance dei sistemi, non solo nel loro utilizzo finale [5].
Il Manifesto mette a disposizione uno strumento pensato esattamente per questo scopo: un percorso in cui il cittadino parte dalla scelta di una criticità da affrontare, collegata a uno degli obiettivi di sviluppo sostenibile delle Nazioni Unite, per poi ricevere in risposta i casi d’uso disponibili completi di obiettivi dichiarati, impatti positivi e negativi su ambiente e società, e vincoli normativi e progettuali applicabili, così da poterli approvare o respingere con consapevolezza. È un meccanismo di “consenso informato” che restituisce al cittadino un ruolo attivo nella selezione dei casi d’uso, non solo passivo nella loro fruizione.
Procurement, startup e fornitori di IA per la pubblica amministrazione
Un ultimo punto di convergenza riguarda il rapporto tra grandi fornitori tecnologici e piccole imprese innovative. Il rapporto ONU osserva che la capacità di sviluppare e addestrare i modelli più avanzati è concentrata in un numero ristretto di attori globali, e che questo squilibrio rischia di escludere dal mercato le realtà più piccole. Uno studio presentato alla Conference on Digital Government Research del 2025 documenta come i sistemi di procurement pubblico europeo, pur nascendo con l’ambizione di essere inclusivi, finiscano spesso per riprodurre le stesse asimmetrie di potere che dovrebbero correggere, penalizzando startup e piccole imprese a causa della complessità procedurale e della scarsa capacità istituzionale di raggiungerle attivamente [6].
Il Manifesto, pur non potendo intervenire sulla scala geopolitica di questo fenomeno, mette a disposizione uno strumento operativo pensato proprio per contrastare questa tendenza a livello locale: un meccanismo che mette in contatto i bisogni reali dei cittadini con l’offerta di soluzioni di intelligenza artificiale proposte da piccole e medie imprese e startup del settore, vincolando questa offerta al rispetto dei principi del Manifesto stesso e al principio di buona fede previsto dal Codice dei contratti pubblici.
IA nella PA orientata all’interesse pubblico
Infine, il rapporto ONU non si limita a elencare rischi: riconosce esplicitamente che l’intelligenza artificiale può generare benefici concreti, a condizione che il suo sviluppo e la sua adozione siano orientati all’interesse pubblico piuttosto che lasciati alle sole logiche di mercato. È un tema su cui la ricerca accademica più recente si è concentrata in modo specifico: un numero monografico della rivista Internet Policy Review dedicato ai sistemi di intelligenza artificiale per l’interesse pubblico propone un framework a più criteri, dalla giustificazione pubblica della scelta di adottare un sistema fino all’apertura a processi di validazione esterna, per verificare se un’applicazione di IA serva davvero il bene collettivo o solo interessi particolari [7].
Il Manifesto anticipa questa stessa preoccupazione fin dalla sua visione di fondo, dove l’innovazione tecnologica viene esplicitamente orientata al bene comune, e la ribadisce nel principio dedicato all’orientamento civico, che chiede di valutare ogni adozione di intelligenza artificiale anche alla luce del suo contributo alla collettività, non solo della sua efficienza amministrativa.
Il Manifesto e il rapporto ONU sui rischi dell’IA
Guardati insieme, i due documenti raccontano una convergenza che vale la pena sottolineare: mentre l’ONU fotografa i rischi e le opportunità dell’intelligenza artificiale con lo sguardo di chi osserva un fenomeno globale ancora in gran parte non governato, l’Augmented RenAIssance Manifesto dimostra che una parte consistente di quei rischi può essere affrontata già oggi, con strumenti semplici, verificabili e resi disponibili in licenza aperta perché altre pubbliche amministrazioni locali possano adottarli o adattarli.
Bibliografia
[1] Independent International Scientific Panel on AI, Preliminary Report e Executive Summary, Nazioni Unite, luglio 2026, disponibili su un.org/independent-international-scientific-panel-ai.
[2] S. Alon-Barkat, M. Busuioc, “Human–AI Interactions in Public Sector Decision Making: Automation Bias and Selective Adherence to Algorithmic Advice”, Journal of Public Administration Research and Theory, Oxford Academic.
[3] OCSE, “Measuring the environmental impacts of artificial intelligence computing and applications: the AI footprint”, oecd.org, 2022.
[4] A. Benlian, M. Pinski, “The AI literacy development canvas: Assessing and building AI literacy in organizations”, ScienceDirect, ottobre 2025.
[5] OCSE, “Artificial Intelligence and the Future of Citizen Participation”, oecd.org, 2026.
[6] J. Westermann, G. Klassen, L.T. Bauer, R. Fritzsche, “Breaking Tech Monopolies: The Role of Public Procurement in Fostering SME-Led Innovation in Europe”, Conference on Digital Government Research, Digital Government Society, 2025.
[7] T. Zuger, H. Asghari, “Introduction to the special issue on AI systems for the public interest”, Internet Policy Review, 2024.
Partecipa alla community