L’Agenzia per l’Italia digitale (Agid) ha aperto una consultazione online sulle nuove guida per lo sviluppo e il procurement dell’intelligenza artificiale (AI) nella Pubblica amministrazione.
Le linee guida sono rivolte ad amministrazioni pubbliche, società a controllo pubblico, società partecipate, gestori di servizi pubblici, organismi di diritto pubblico e sono formate da un documento principale e due allegati: il primo allegato è relativo ai termini e alle definizioni e il secondo allegato è relativo training, validazione, fine‑tuning di modelli e utilizzo di RAG.
I pilastri fondamentali su cui sono fondate le linee guida sono la sovranità tecnologica, la neutralità hardware, la sostenibilità energetica e la centralità dell’uomo: la Pubblica amministrazione è chiamata a governare l’intero ciclo di vita dei sistemi di intelligenza artificiale, garantendo che lo sviluppo sia orientato verso servizi flessibili e controllabili, evitando soluzioni monolitiche o dipendenze rigide (lock-in) dai fornitori
Indice degli argomenti
I 20 principi per l’adozione, lo sviluppo e il procurement dell’intelligenza artificiale nella PA
Le linee guida definiscono 20 principi cardine che devono guidare l’azione della Pubblica amministrazione lungo tutto il ciclo di vita del sistema di intelligenza artificiale.
- Conformità normativa: rispetto rigoroso delle norme nazionali ed europee tramite il principio di compliance by design.
- Rispetto dei valori europei fondamentali: garanzia dei diritti definiti dalla Carta dei diritti fondamentali dell’Unione Europea.
- Gestione del rischio: analisi approfondita dei rischi tecnici, organizzativi e sistemici, con strategie di mitigazione e isolamento dei componenti.
- Protezione dei dati personali: garanzia di qualità, integrità e minimizzazione del trattamento dei dati.
- Responsabilità: attribuzione chiara della responsabilità ultima delle decisioni in capo alla PA.
- Accessibilità, inclusività e non discriminazione: trattamento equo e prevenzione sistematica dei bias discriminatori.
- Trasparenza, spiegabilità e documentazione: meccanismi di spiegabilità proporzionati al rischio e tracciabilità delle decisioni.
- Trasparenza e informazione: consapevolezza dell’utente sull’interazione con sistemi di IA.
- Qualità dei dati: gestione etica e sicura dei dataset per assicurarne rappresentatività e aggiornamento.
- Accuratezza: utilizzo di metriche misurabili e monitoraggio continuo delle prestazioni del modello.
- Robustezza: capacità operativa in condizioni avverse o in presenza di guasti, con meccanismi di fallback.
- Sicurezza cibernetica: protezione end-to-end di modelli, agenti e infrastrutture.
- Sorveglianza umana: possibilità effettiva di verifica, correzione o arresto delle decisioni automatizzate.
- Registrazioni (logging): meccanismi interoperabili per tracciare flussi di dati e interventi umani.
- Adozione di standard tecnici: utilizzo di standard aperti e API documentate per garantire l’interoperabilità.
- Efficienza e qualità dei servizi: orientamento al miglioramento misurabile dei tempi e dell’efficacia dei servizi pubblici.
- Innovazione e miglioramento continuo: promozione di ecosistemi aperti, riuso di software e componenti open weights.
- Sostenibilità ambientale: progettazione attenta all’efficienza energetica e riduzione dell’impatto ambientale.
- Formazione e sviluppo delle competenze: investimento costante nel personale interno per garantire il governo autonomo dei sistemi.
- Rafforzamento dell’organizzazione e delle infrastrutture: ottimizzazione degli assetti organizzativi per sostenere la resilienza digitale.
Le famiglie e tipi di intelligenza artificiale
La classificazione dei sistemi di intelligenza artificiale segue un modello gerarchico di inclusione, procedendo dal generale al particolare come indicato nel seguente prospetto.
| Categoria | Descrizione |
| Intelligenza Artificiale (IA) | Sistemi automatizzati con livelli di autonomia variabili, capaci di dedurre output (previsioni, contenuti, decisioni) da input ricevuti. |
| IA Statistica (Data-driven) | Approccio basato sull’elaborazione di grandi quantità di dati tramite modelli matematici per apprendere capacità di classificazione. |
| Machine Learning (ML) | Algoritmi (regressioni, alberi decisionali) che apprendono pattern da dati strutturati, ottimizzando pesi o regole di suddivisione. |
| Neural Networks (Reti Neurali) | Tecnologie ispirate ai neuroni biologici, ideali per dati non strutturati grazie alla capacità di feature extraction automatica. |
| Deep Learning (DL) | Estensione complessa delle reti neurali con numerosi livelli gerarchici che apprendono strutture non lineari tramite backpropagation. |
| Generative AI (IA Generativa) | Sistemi (es. LLM) basati su architetture transformer capaci di generare nuovi contenuti (testi, immagini, codice) dopo una fase di pre-training. |
I 5 layer tecnologici
Le linee guida basano le componenti di intelligenza artificiale su cinque livelli funzionali.
- Energy Layer (Livello Energetico): Base fisica che include fornitura elettrica, raffreddamento e gestione termica. Cruciale per la continuità operativa e la sostenibilità ambientale.
- Chip Layer (Livello Computazionale): Componenti hardware (GPU, CPU) necessarie per l’elaborazione dei carichi di lavoro.
- Infrastructure Layer (Livello Infrastrutturale): Cloud, reti ad alte prestazioni e sistemi di archiviazione dati.
- AI Model Layer (Livello dei Modelli IA): Framework di machine learning, runtime e i modelli stessi (addestrati o pre-addestrati).
- Application Layer (Livello Applicativo): Strumenti di governance, servizi e applicazioni finali che interagiscono con l’utente.
I 4 Livelli di Autonomia (Pattern Operativi)
Per individuare il livello di autonomia e le responsabilità delle PA nello sviluppo dei sistemi, vengono definiti quattro profili di operatore:
- Operatore Base: Utilizza soluzioni di IA preconfigurate con limitata capacità di personalizzazione.
- Operatore Avanzato: Interviene nella configurazione e nell’adattamento dei modelli a contesti specifici.
- Operatore Esperto: Possiede competenze profonde per lo sviluppo, l’addestramento e l’ottimizzazione di modelli proprietari o open source.
- Operatore Controllore: Focalizzato sulla supervisione, l’audit e la verifica della conformità e della sicurezza dei sistemi esterni o interni.
Architettura Logica di Riferimento
L’architettura proposta per la PA mira a superare i modelli monolitici attraverso un approccio modulare che comprende:
- Orchestratore: Il cuore del sistema, incaricato di coordinare modelli, dati e risorse computazionali in modo flessibile.
- Modelli di IA: Componenti intercambiabili che possono essere sostituiti o aggiornati senza impattare l’intero Stack.
- Fonti dati eterogenee: Gestione di dati provenienti da ambienti cloud, on-premise o ibridi.
- Tool del livello applicativo: Strumenti per l’erogazione dei servizi finali.
Distinzione tra Dati di Addestramento e Dati in Esercizio
Il ruolo del dato è centrale e richiede una distinzione funzionale precisa:
- Dati di Addestramento (Training Data): Utilizzati nella fase di costruzione e raffinamento del modello per permettergli di apprendere pattern e relazioni latenti. Richiedono processi rigorosi di data governance e controllo qualità.
- Dati in Esercizio (Operational Data): Dati utilizzati durante il normale funzionamento del sistema per generare output in tempo reale. Questi dati devono essere gestiti garantendo integrità, sicurezza e minimizzazione dei trattamenti.
Profili e Operatori
Le Linee Guida AgID distinguono le PA in quattro profili d’uso dell’IA, in base a competenze, risorse e livello di controllo desiderato. Una stessa amministrazione può avere profili diversi a seconda del caso d’uso.
- Operatore controllore: governa in autonomia l’intera filiera, dai dati all’infrastruttura fino al modello finale; è il profilo con massimo controllo e indipendenza dai fornitori.
- Operatore base: usa soluzioni IA pronte, spesso in cloud, senza competenze specialistiche avanzate; ha basso controllo sulla tecnologia.
- Operatore avanzato: personalizza modelli esistenti con adattamenti o fine-tuning; richiede competenze interne e ha controllo medio-alto.
- Operatore esperto: sviluppa o mette a disposizione asset strategici come dati, infrastrutture o modelli riutilizzabili da altri; ha alta capacità tecnica e ruolo abilitante.
Fasi del Ciclo di Vita e Procurement
Le azioni per lo sviluppo e l’acquisizione di sistemi IA devono seguire sette fasi logiche:
- Pianificazione e design: Definizione dei requisiti normativi (compliance by design) e analisi degli impatti sui diritti fondamentali.
- Raccolta e trattamento dei dati: Selezione di dataset rappresentativi e gestione etica dei flussi.
- Costruzione e/o addestramento dei modelli: Sviluppo tecnico basato su efficienza computazionale e proporzionalità.
- Testing, valutazione, verifica e validazione: Test sistematici su bias, accuratezza e robustezza.
- Messa a disposizione per l’esercizio: Deployment sicuro su infrastrutture idonee.
- Operatività e monitoraggio: Controllo continuo delle prestazioni e gestione degli incidenti.
- Ritiro e/o disattivazione: Procedure per la dismissione sicura e la reversibilità dei dati.
I 5 punti principali sulla Cybersicurezza
La sicurezza è considerata una precondizione essenziale, declinata attraverso cinque obiettivi strategici:
- Modellare le minacce ai sistemi: Analisi preventiva dei vettori di attacco specifici per l’IA (es. evasion, poisoning).
- Analisi statica e dinamica del codice: Verifica costante della sicurezza del software e degli algoritmi.
- Considerare vantaggi e compromessi nella scelta del modello: Valutazione del bilanciamento tra prestazioni e vulnerabilità intrinseche del modello scelto.
- Progettare in funzione della sicurezza, funzionalità e prestazioni: Integrazione dei requisiti di sicurezza by design e by default.
- Documentare i dati, i modelli e le richieste: Mantenimento di una tracciabilità completa per facilitare audit e risposta agli incidenti.
Le Linee Guida AgID, un percorso strategico per lo sviluppo dell’Intelligenza Artificiale nella Pubblica Amministrazione
Riassumendo: le Linee Guida AgID delineano un percorso strategico per lo sviluppo dell’Intelligenza Artificiale nella Pubblica Amministrazione, fondato sui pilastri di autonomia operativa, trasparenza e sostenibilità. Attraverso l’introduzione di un’architettura logica stratificata, dall’Energy Layer all’Application Layer, il documento promuove l’adozione di sistemi modulari e agentici coordinati da un orchestratore, approccio essenziale per prevenire il rischio di lock-in tecnologico e garantire flessibilità.
Ogni fase del ciclo di vita del sistema, dalla pianificazione iniziale fino alla disattivazione, deve essere orientata al principio della compliance by design, assicurando il rispetto dei diritti fondamentali, dell’accuratezza e della protezione dei dati personali in linea con il quadro normativo europeo e l’AI Act,,. Particolare attenzione è rivolta alla sicurezza cibernetica, che deve essere integrata nativamente per contrastare minacce specifiche dell’IA come gli attacchi di poisoning o evasion,. La classificazione di diversi profili di operatore (base, avanzato, esperto e controllore) permette inoltre alle PA di calibrare l’adozione delle tecnologie in base alle proprie risorse e competenze specialistiche. In conclusione, la promozione della neutralità hardware e dell’efficienza energetica assicura che l’innovazione tecnologica resti resiliente, inclusiva e pienamente governabile dall’amministrazione pubblica nel lungo periodo
Le Linee guida sono in consultazione fino all’11 Aprile 2026.
Se vuoi approfondire i contenuti mediante l’uso dell’AI, accedi al notebook messo a disposizione al link dove potrai trovare slide, podcast o video associati al documento pubblicato in bozza da Agid. L’accesso richiede un account gmail (che puoi crearti qui).
