L’intelligenza artificiale promette alla Pubblica Amministrazione procedimenti più rapidi, servizi più accessibili e decisioni meglio informate. Può analizzare grandi quantità di dati, individuare ricorrenze, segnalare anomalie e supportare attività che fino a pochi anni fa richiedevano tempi e risorse molto maggiori. Ma quando un algoritmo entra in un procedimento pubblico, la domanda non è più soltanto se funzioni: è se sia giusto, spiegabile e controllabile.
Per comprendere i rischi di una tecnologia così pervasiva si può partire da un caso ormai emblematico. Nel 2014, in Florida, Brisha Borden fu arrestata per aver sottratto una bicicletta e un monopattino da bambino del valore complessivo di circa 80 dollari, poi subito abbandonati. Nello stesso periodo, Vernon Prater, quarantunenne con precedenti per rapina a mano armata, fu fermato per aver rubato da un negozio utensili di valore analogo. Il sistema COMPAS, utilizzato allora come supporto predittivo nel contesto giudiziario, classificò Borden come soggetto ad alto rischio di recidiva e Prater come soggetto a basso rischio. Nei due anni successivi accadde il contrario: Borden non commise altri reati, mentre Prater tornò a delinquere.
Il caso è stato spesso citato per mostrare come un sistema predittivo possa produrre esiti statisticamente distorti rispetto a gruppi diversi di popolazione, anche quando non utilizza esplicitamente determinate caratteristiche personali come variabili decisionali. Non dimostra che ogni algoritmo sia ingiusto, ma evidenzia un rischio essenziale: un sistema apparentemente neutro può generare effetti distorti se i dati, i criteri di progettazione o le modalità di utilizzo incorporano squilibri preesistenti.
La decisione appare oggettiva perché prodotta da una procedura automatizzata, ma dietro ogni modello vi sono scelte umane: basi informative, obiettivi di ottimizzazione, soglie, assunzioni e criteri di validazione. Per la Pubblica Amministrazione questo passaggio è ancora più delicato, perché un errore algoritmico in ambito privato può generare perdite economiche o danni reputazionali, mentre un errore algoritmico in ambito pubblico può incidere sulla possibilità stessa di esercitare un diritto.
Per questo l’adozione dell’IA nella PA non può essere trattata come una semplice innovazione tecnologica: è una questione di qualità democratica dell’azione amministrativa. L’algoritmo etico, quindi, non è un algoritmo “buono” in senso astratto, ma un sistema progettato, acquistato, utilizzato e controllato in modo coerente con i principi della buona amministrazione: legalità, imparzialità, proporzionalità, trasparenza, accountability e possibilità di contestazione. In altre parole, l’IA può aiutare la PA a decidere meglio solo se resta dentro un quadro chiaro di responsabilità pubblica.
Indice degli argomenti
Quando l’automazione incontra i diritti nella PA
Nella PA l’intelligenza artificiale può avere applicazioni molto concrete: classificare pratiche, supportare l’istruttoria, analizzare documenti, migliorare l’interazione con cittadini e imprese, rendere più accessibili informazioni e servizi. La Strategia italiana per l’Intelligenza Artificiale 2024-2026 individua proprio nella Pubblica Amministrazione uno degli ambiti strategici di applicazione, con l’obiettivo di rendere più efficienti i processi amministrativi e migliorare la qualità dei servizi pubblici.
Ma non si può ridurre tutto a un tema di velocità. Un sistema che accorcia i tempi di lavorazione di una domanda di contributo può essere prezioso; tuttavia, se i criteri che determinano l’ordine di priorità non sono comprensibili, o se i dati utilizzati riflettono disparità pregresse, il rischio è che l’innovazione produca una forma nuova e più efficiente di ingiustizia.
È qui che l’automazione incontra i diritti: ogni volta che un algoritmo entra in un procedimento amministrativo, l’amministrazione deve chiedersi quali effetti possa produrre sulle persone, quali garanzie siano necessarie, quale livello di spiegazione debba essere assicurato e quale ruolo debba mantenere il funzionario pubblico. L’IA deve supportare la decisione, non sostituire la responsabilità.
Il nodo dei bias algoritmici
Tra i rischi più rilevanti vi sono i bias algoritmici, cioè le distorsioni che possono derivare dai dati, dalle regole di progettazione, dalle modalità di addestramento o dal contesto di utilizzo del sistema. Un algoritmo non nasce dal nulla: apprende da dati prodotti da società, organizzazioni e amministrazioni che possono avere già incorporato disuguaglianze, esclusioni, sottorappresentazioni o prassi non uniformi.
Se un sistema viene addestrato su dati storici sbilanciati, può imparare a riprodurre quegli stessi squilibri. Se alcuni gruppi di cittadini sono meno rappresentati nei dati, il sistema può funzionare peggio proprio nei loro confronti. Se le variabili utilizzate sono apparentemente neutre ma correlate a condizioni sociali, territoriali o economiche, l’algoritmo può generare discriminazioni indirette. Il bias, dunque, non è sempre evidente: spesso si nasconde dentro correlazioni statistiche che sembrano tecniche, ma producono conseguenze amministrative molto concrete.
La questione riguarda anche i sistemi generativi. Le risposte di un chatbot possono apparire naturali, brillanti e persuasive, ma non per questo sono neutrali: dipendono dai dati su cui il modello è stato addestrato, dalle scelte dei progettisti, dai meccanismi di allineamento e dal contesto culturale prevalente nelle fonti utilizzate. Alcune ricerche hanno mostrato come i grandi modelli linguistici possano riflettere visioni del mondo più vicine a determinati contesti culturali, linguistici ed economici rispetto ad altri. Non si tratta di attribuire intenzioni al sistema, ma di riconoscere che l’IA non parla da un punto di vista universale.
Per una PA questo è un punto fondamentale: un’amministrazione non può limitarsi a usare l’IA perché “funziona” o perché restituisce risposte plausibili. Deve verificare se il sistema funziona in modo equo, se produce risultati coerenti con la normativa, se è comprensibile per gli operatori e se non genera effetti sproporzionati su determinate categorie di cittadini.
Trasparenza, spiegabilità e tracciabilità
È qui che entra in gioco il concetto di spiegabilità, che non coincide necessariamente con la pubblicazione di formule matematiche complesse o di dettagli tecnici del modello. La spiegabilità dovrebbe essere intesa come la capacità di tradurre il funzionamento essenziale del sistema in un linguaggio amministrativo comprensibile, verificabile e utile, così da consentire al cittadino di sapere perché l’Ente ha assunto una certa decisione e di ricostruire il percorso logico che ha portato a quell’esito.
Accanto alla spiegabilità vi è la tracciabilità. Ogni sistema di IA impiegato in procedimenti pubblici dovrebbe consentire di ricostruire le operazioni svolte, le fonti informative utilizzate, le verifiche effettuate e le eventuali correzioni introdotte dall’operatore. La tracciabilità permette di collegare l’output algoritmico alla responsabilità amministrativa del decisore pubblico e rende possibile il controllo successivo della decisione.
La supervisione umana non può essere solo formale
Uno dei principi centrali dell’AI Act è la supervisione umana, in particolare per i sistemi classificati ad alto rischio. Chi utilizza un sistema di IA deve poter comprenderne capacità e limiti, interpretarne correttamente gli output, riconoscere anomalie, evitare un affidamento automatico e intervenire quando il risultato appare errato, incoerente o discriminatorio.
Per la PA questa esigenza è particolarmente rilevante, in quanto non basta che un funzionario apponga una firma finale su una decisione già sostanzialmente determinata dalla macchina; se la persona non ha tempo, strumenti, competenze o informazioni per valutare davvero l’output, la supervisione umana diventa una garanzia solo apparente.
Questo implica formazione, procedure e responsabilità chiare, affinché gli operatori sappiano quando fidarsi del sistema, quando approfondire, quando chiedere una verifica tecnica e quando disattendere il suggerimento algoritmico. L’IA deve essere un sistema di supporto alle decisioni, non un sostituto del decisore umano.
L’AI Act come cornice di governance
Il Regolamento europeo sull’intelligenza artificiale introduce un approccio basato sul rischio: non tutti i sistemi sono trattati allo stesso modo e, quanto maggiore è l’impatto potenziale su salute, sicurezza e diritti fondamentali, tanto più stringenti diventano gli obblighi. Per i sistemi ad alto rischio assumono rilievo requisiti come qualità dei dati, documentazione tecnica, registrazione delle attività, trasparenza, accuratezza, robustezza, sicurezza e supervisione umana.
Per le amministrazioni pubbliche questo quadro non deve essere letto come un freno all’innovazione, ma come una guida per renderla affidabile. L’IA non può essere introdotta soltanto attraverso un capitolato tecnico o una procedura di acquisto: richiede una governance dell’intero ciclo di vita, dalla scelta del caso d’uso alla valutazione della base giuridica, dalla classificazione del rischio all’analisi degli impatti, dalla qualità dei dati alla definizione delle responsabilità, fino al monitoraggio continuo, alla gestione degli incidenti e all’aggiornamento periodico delle misure di controllo.
Figura 1 – Governance responsabile dell’IA nella PA
In questa prospettiva, conformità e innovazione non sono concetti opposti. La conformità serve a rendere l’innovazione sostenibile, difendibile e coerente con la funzione pubblica, perché consente di spiegare, controllare e correggere il sistema di IA lungo tutto il suo utilizzo.
Una PA capace di governare l’algoritmo
La sfida per la PA italiana non è soltanto introdurre più strumenti di intelligenza artificiale, ma costruire capacità amministrativa attorno a quegli strumenti: sviluppare competenze interne, rafforzare la cultura del dato, coinvolgere le professionalità giuridiche e organizzative insieme a quelle informatiche.
In assenza di competenze specifiche, il rischio è che l’amministrazione finisca per delegare tutto al fornitore. È un rischio tecnico, contrattuale e istituzionale: può generare lock-in, ridurre la capacità di controllo e trasformare l’innovazione in una dipendenza. Al contrario, conoscere i propri procedimenti, individuare i punti in cui l’automazione può generare valore, valutare i rischi per i cittadini, stabilire chi controlla cosa e verificare gli effetti nel tempo consente all’Ente di governare l’algoritmo, non soltanto al momento dell’acquisto ma lungo tutto il suo ciclo di vita.
Contributi e benefici pubblici: un esempio concreto
Si immagini un Comune o una Regione che utilizzi un sistema di IA per supportare l’istruttoria delle domande relative a un contributo sociale. Il sistema potrebbe ordinare le pratiche, segnalando incongruenze documentali e individuando casi da approfondire, aiutando così l’ufficio a ridurre i tempi di lavorazione. In questo caso l’utilità dell’introduzione di un tale sistema è sicuramente evidente, perché permette di ridurre l’arretrato garantendo maggiore uniformità e più capacità di analisi.
Tuttavia, perché questo utilizzo sia coerente con i principi della buona amministrazione, devono essere rispettate alcune condizioni fondamentali: i dati debbono essere aggiornati e pertinenti; i criteri devono essere coerenti con la disciplina del beneficio; l’operatore deve poter capire perché una domanda viene segnalata come anomala o prioritaria; il suggerimento della macchina deve poter essere corretto o disatteso; il cittadino deve ricevere una motivazione comprensibile e non un esito opaco prodotto da un automatismo.
Se queste condizioni mancano, l’IA può velocizzare il procedimento indebolendo però le garanzie; se invece sono presenti, l’automazione può liberare tempo amministrativo rendendo più uniforme il trattamento delle pratiche e migliorando la qualità complessiva del servizio senza sacrificare diritti e responsabilità.
Dagli errori algoritmici alla fiducia dei cittadini
Gli errori algoritmici non sono soltanto problemi tecnici: possono compromettere la fiducia dei cittadini nell’amministrazione. Un sistema che sbaglia senza che nessuno sappia spiegarne il motivo, o che produce esiti percepiti come ingiusti, genera distanza, sfiducia e conflitto. Al contrario, un’amministrazione che dichiara quando usa l’IA, spiega come la usa e ne controlla gli effetti rafforza la propria credibilità.
La fiducia, infatti, non nasce dall’idea che l’algoritmo sia infallibile, ma dalla consapevolezza che l’algoritmo è controllato e che la PA resta responsabile, con strumenti effettivi per correggere gli errori. In una democrazia amministrativa matura, l’innovazione non elimina il diritto alla spiegazione: lo rende ancora più necessario.
L’innovazione che rafforza la buona amministrazione
L’intelligenza artificiale può diventare una leva decisiva per rendere la Pubblica Amministrazione più efficace, più accessibile e più capace di rispondere ai bisogni delle comunità. La sua legittimazione, però, non dipenderà dalla potenza dei modelli o dalla rapidità delle risposte, ma dalla capacità delle istituzioni di spiegare, controllare e correggere le decisioni che quei sistemi contribuiscono a formare.
Il vero obiettivo non è rincorrere l’IA per inserirla ovunque negli uffici, ma costruire amministrazioni capaci di governarla. Un algoritmo può essere utile solo se resta al servizio della decisione pubblica, non se la rende opaca. Può aumentare l’efficienza solo se non riduce le garanzie. Può innovare davvero solo se rafforza, e non indebolisce, i principi che rendono pubblica l’azione amministrativa: imparzialità, trasparenza, proporzionalità, accountability e tutela effettiva dei cittadini.
L’algoritmo etico, in definitiva, non è quello che decide al posto dell’amministrazione, ma quello che aiuta l’amministrazione a decidere meglio, lasciando sempre riconoscibile chi decide, perché decide e come quella decisione può essere verificata; è questa la condizione perché l’intelligenza artificiale diventi uno strumento di buona amministrazione.
Partecipa alla community