Quando un’amministrazione collega un assistente di intelligenza artificiale ai propri archivi, apre un nuovo canale di accesso al patrimonio informativo dell’ente. Se il sistema aiuta a istruire una pratica, la qualità delle informazioni restituite può incidere sul lavoro del funzionario e sulla posizione del cittadino. Le scelte sui dati consultabili e sui margini di autonomia dell’applicazione entrano così nel funzionamento del servizio pubblico.
La governance dell’intelligenza artificiale nella PA richiede quindi di stabilire chi autorizza l’uso di un sistema, chi ne verifica gli effetti e quali procedure attivare quando produce una risposta inattendibile o espone informazioni riservate. Queste responsabilità coinvolgono la direzione dell’ente, gli uffici che erogano il servizio e chi presidia la sicurezza e la protezione dei dati.
Indice degli argomenti
Normativa AI nella PA e responsabilità del funzionario
La legge 23 settembre 2025, n. 132, assegna a queste scelte un riferimento preciso. L’articolo 14 prevede che l’AI supporti l’attività amministrativa, assicurando agli interessati la conoscibilità del suo funzionamento e la tracciabilità del suo utilizzo.
La persona conserva autonomia decisionale e responsabilità sui provvedimenti e sui procedimenti nei quali viene impiegata l’intelligenza artificiale. Lo stesso articolo richiede misure tecniche, organizzative e formative per un uso responsabile.
Per l’ente, questo significa mettere il funzionario nelle condizioni di controllare il contributo del sistema. Un esito generato automaticamente dovrebbe poter essere confrontato con i documenti da cui deriva e con le regole applicabili alla pratica. Anche la registrazione delle operazioni va progettata per consentire verifiche successive, con tempi di conservazione e accessi coerenti con la protezione dei dati personali.
La legge individua inoltre AgID e ACN come autorità nazionali per l’intelligenza artificiale, attribuendo loro competenze distinte. Il percorso operativo comprende le iniziative AgID sulle linee guida: nel marzo 2026 l’Agenzia ha avviato la consultazione dei documenti per lo sviluppo e il procurement di sistemi AI nella PA. Sono riferimenti da considerare nella pianificazione dei progetti, distinguendo i testi in consultazione dalle disposizioni già applicabili.
“Per un’amministrazione, adottare l’AI significa stabilire quale parte del lavoro affidarle e quali verifiche mantenere in capo alle persone. Il controllo deve essere applicabile anche quando il modello o l’infrastruttura dipendono da soggetti esterni. Servono responsabilità definite e la possibilità di ricostruire l’uso del sistema, soprattutto quando il suo risultato entra in un procedimento che riguarda un cittadino. È inoltre fondamentale rilevare e limitare la cosiddetta shadow AI, cioè tutti quegli usi non regolamentati basati su iniziative personali che potrebbero esporre l’organizzazione a violazioni della privacy e fughe di dati”, spiega Salvatore Marcis, Country Manager Italy di TrendAI
AI Act e scadenze per i sistemi AI della PA
Il calendario europeo concede un periodo ulteriore per preparare alcune applicazioni. Secondo il quadro aggiornato della Commissione europea, le regole per i sistemi ad alto rischio elencati nell’Allegato III dell’AI Act si applicheranno dal 2 dicembre 2027; per quelli incorporati nei prodotti regolamentati la data indicata è il 2 agosto 2028. Le disposizioni del regolamento seguono scadenze differenti e gli obblighi di trasparenza per determinati sistemi, compresi quelli che interagiscono con le persone, sono già applicabili.
Le amministrazioni devono quindi classificare gli utilizzi effettivi. Un assistente informativo e un sistema impiegato per valutare l’accesso a una prestazione pubblica richiedono analisi diverse, in relazione alla finalità e agli effetti sulle persone. L’AI Act include tra gli ambiti ad alto rischio determinati impieghi per l’accesso a servizi pubblici essenziali. La ricognizione dei progetti serve a individuare il regime applicabile e a programmare gli adeguamenti, mentre restano fermi gli obblighi sulla protezione dei dati personali.
Il lavoro può iniziare dai sistemi già in uso: censirli, ricostruire i dati trattati e individuare il responsabile di ciascun servizio permette di far emergere anche le applicazioni introdotte attraverso forniture più ampie. Un contratto per un gestionale, per esempio, può comprendere funzionalità AI che vanno valutate insieme alle altre componenti del prodotto.
Sicurezza AI nella PA e rischi di prompt injection
La diffusione degli strumenti rende questa ricognizione impegnativa. Nel rapporto sullo stato della sicurezza AI del primo semestre 2026, pubblicato lo scorso 23 settembre, TrendAI ha identificato 43.175 istanze di servizi legati all’AI in 25 settori, attraverso l’analisi di 21,6 milioni di URL. La rilevazione ha un perimetro internazionale e multisettoriale e il rapporto documenta, tra le criticità osservate, componenti accessibili da Internet senza autenticazione e software non aggiornato. TrendAI osserva inoltre che gli attaccanti prendono sempre più di mira la fiducia riposta negli strumenti degli sviluppatori, la supply chain e le identità digitali, più che i modelli stessi.
Per un’applicazione che consulta documenti amministrativi, il rischio riguarda anche il contenuto delle informazioni elaborate. Una pagina web o un allegato possono contenere istruzioni costruite per deviare il comportamento del modello. OWASP (Open Worldwide Application Security Project) descrive questo meccanismo come “prompt injection indiretta” e ne segnala i possibili effetti, dalla divulgazione di dati all’uso non autorizzato delle funzioni collegate al sistema.
Il problema si estende quando l’assistente può compiere operazioni: aggiornare una pratica, inviare una comunicazione o interrogare un archivio attraverso un’utenza con privilegi elevati. OWASP riconduce il rischio di azioni dannose anche a funzionalità eccessive, permessi troppo ampi e autonomia sproporzionata. La valutazione deve quindi comprendere ciò che il sistema è autorizzato a fare nei servizi ai quali si collega.
Un ente può circoscrivere gli effetti di un errore assegnando permessi limitati al compito, verificando gli accessi ai documenti e richiedendo una conferma umana per le operazioni con conseguenze rilevanti. La verifica dell’attendibilità delle risposte resta un presidio ulteriore: anche un sistema protetto dagli accessi abusivi può produrre informazioni inesatte. Il funzionario deve disporre delle competenze e del tempo necessari per riconoscerle.
Sovranità dei dati e controllo dei modelli AI
La scelta dei fornitori porta al tema della sovranità di dati e modelli. Nella ricerca Building Sovereign AI, TrendAI propone una valutazione su cinque livelli, dalle basi tecnologiche all’infrastruttura, fino a dati e modelli, operazioni e autonomia strategica. Il documento riconosce che anche i Paesi tecnologicamente più avanzati operano entro dipendenze globali e che la residenza del dato, da sola, non esaurisce la questione del controllo.
Per la PA, questa lettura consente di formulare requisiti coerenti con il servizio. La localizzazione delle informazioni va valutata insieme alla gestione delle chiavi, agli accessi amministrativi e alle condizioni alle quali il fornitore può riutilizzare dati e conversazioni. Occorre inoltre chiarire cosa accade quando cambia il modello sottostante o quando termina il rapporto contrattuale: esportabilità delle informazioni e disponibilità della documentazione incidono sulla possibilità dell’ente di mantenere il servizio.
“La sovranità richiede di chiarire quali componenti si possono controllare direttamente e quali dipendenze devono essere gestite attraverso accordi e verifiche. Nel caso dell’AI, questi confini cambiano tra dati, modelli e infrastrutture. Un ente deve poter scegliere il livello di controllo necessario al proprio servizio e verificare nel tempo che le condizioni concordate con i fornitori siano rispettate”, aggiunge Salvatore Marcis.
I guardrail, cioè i limiti applicati al comportamento del sistema, devono tradurre queste scelte in controlli verificabili, definendo quali fonti il sistema può consultare e quali operazioni è autorizzato a eseguire. La loro efficacia va verificata anche attraverso i permessi delle applicazioni e le regole di accesso ai dati, così che il rispetto dei vincoli sia sostenuto da controlli esterni al modello e dipenda meno dalla sua capacità di attenersi alle istruzioni ricevute.
Come attuare la governance AI nella pubblica amministrazione
Nel tempo disponibile prima delle nuove scadenze, la direzione dell’ente può chiedere ai responsabili dei progetti evidenze concrete, a partire da un censimento degli utilizzi che descriva i servizi interessati, i dati coinvolti e le decisioni che restano affidate al funzionario. Su questa base si possono definire prove di accettazione pertinenti, verificando, per esempio, che un utente non riesca a ottenere attraverso l’assistente documenti ai quali non potrebbe accedere direttamente.
Le verifiche devono proseguire durante l’esercizio, perché l’aggiornamento di un modello o l’aggiunta di una nuova base documentale possono modificare le risposte e i rischi del sistema. Occorre quindi concordare con i fornitori quando ripetere le prove, quali anomalie segnalare e chi possa sospendere una funzione, in modo che la direzione disponga degli esiti dei controlli e delle informazioni sulle correzioni apportate per valutare l’andamento dei progetti.
Anche la preparazione del personale deve tenere conto delle diverse responsabilità: chi utilizza l’AI per un’istruttoria deve sapere quali informazioni può inserire, come controllare un risultato e a chi segnalare un’anomalia, mentre chi gestisce la piattaforma deve conoscere i limiti dei permessi e le procedure di intervento. La formazione si integra così con le misure organizzative e i controlli tecnologici, secondo quanto previsto anche dall’articolo 14 della legge italiana.
Collaborazione tra PA e imprese per la sicurezza dell’AI
La collaborazione tra pubblico e privato può sostenere questo percorso attraverso la condivisione di competenze e informazioni sulle minacce (infosharing), anche nell’ambito di accordi come quello sottoscritto da ACN con Trend Micro Italy (la filiale italiana di TrendAI) il 12 luglio 2024 e riportato nei documenti pubblici dell’Agenzia. Sul piano dei servizi, TrendAI Vision One™ è presente nel catalogo ACN con qualifica di livello 2, rinnovata nel 2026: un elemento che l’ente deve valutare insieme ai requisiti della propria applicazione e ai dati che intende trattare.
Per presidiare l’uso dell’AI, TrendAI Vision One AI Security comprende funzionalità che consentono di individuare applicazioni e modelli in uso, applicare politiche sui dati sensibili ed eseguire test e controlli contro attacchi come la prompt injection: AI Scanner simula attacchi prima del rilascio di un’applicazione, mentre AI Guard filtra input e output durante l’esercizio, fornendo ai responsabili della sicurezza strumenti da impiegare nell’ambito delle scelte di governo definite dall’amministrazione.
La collaborazione riguarda anche la ricerca sulle vulnerabilità: nel giugno 2026 TrendAI ha annunciato la partecipazione al Project Glasswing di Anthropic, dedicato all’individuazione e alla gestione delle vulnerabilità nei sistemi software critici. Nell’ambito del programma, TrendAI utilizza Claude Mythos Preview per l’analisi del codice, con l’obiettivo di trasformare una scoperta più rapida delle vulnerabilità in una divulgazione coordinata e in interventi correttivi prioritizzati. Per le amministrazioni, l’utilità di queste iniziative dipende anche dalla possibilità di tradurre le conoscenze acquisite in verifiche sui servizi effettivamente utilizzati.
Quando un progetto entra in esercizio, l’ente dovrebbe poter ricostruire il contributo dell’AI a una pratica, individuare chi risponde del risultato e intervenire sul sistema, correggendolo o sospendendone una funzione senza perdere il controllo del servizio. La possibilità di rendere conto di queste decisioni rende più trasparente l’operato dell’amministrazione e offre un fondamento concreto alla fiducia dei cittadini.
Articolo realizzato in partnership con TrendAI
Partecipa alla community