In questi ultimi mesi si fa un gran parlare di Agenti AI, se ne magnificano le potenzialità e il meraviglioso futuro prossimo venturo, in cui la metà del nostro tempo di lavoro sarà recuperato, per dedicarci finalmente al golf e ai dialoghi sui massimi sistemi. Per la verità è un entusiasmo che, per quanto riguarda l’impiego di agenti autonomi coordinati in architetture complesse, non vede ancora un vero sviluppo. Tuttavia, ci sono contesti in cui si parla con grande dimestichezza e passione di come gli agenti riescano a risolverci i mille problemi quotidiani, aiutandoci nel lavoro e aumentando la produttività.
Se fosse davvero così, e se davvero in molti contesti, aziendali e della Pubblica Amministrazione, si stesse facendo ampio uso di questi agenti, allora gli effetti si vedrebbero eccome. Avremmo un visibile incremento della produttività, o almeno del numero di giocatori di golf. Non è così, e bisogna aggiungere “purtroppo”, o per altri versi, “per fortuna”.
Non si tratta di essere scettici, perché sono del tutto evidenti le enormi possibilità che si stanno aprendo nell’utilizzo delle architetture agentiche, ma bisogna rendersi conto che il loro utilizzo comporta un ampliamento considerevole della superficie di rischio per le nostre organizzazioni, che va oltre quello che probabilmente si percepisce ad una analisi poco approfondita.
Il “purtroppo”, nella frase iniziale, rivelerebbe una nota di rammarico, perché ancora non abbiamo iniziato a sfruttare questa grande opportunità di sviluppo, in gran parte ancora da esplorare; ma il “per fortuna” dovrebbe essere contestuale, perché non siamo ancora del tutto pronti per affrontare l’impresa. Ancora non abbiamo percepito fino in fondo i rischi, e ancora non abbiamo sviluppato dei modelli di progettazione adeguati, che possano mettere in relazione l’autonomia che si attribuisce agli agenti con le diverse dimensioni di rischio che ne derivano.
Indice degli argomenti
Dagli automi ai rischi degli Agenti AI
Il concetto di Agenti artificiali non nasce di certo negli ultimi anni. L’idea di costruire delle entità artificiali, in grado di svolgere autonomamente dei compiti simili a quelli svolti dall’uomo, risale addirittura ai tempi dell’antica Grecia, con il Talos di Creta, un gigantesco automa di bronzo a cui, si diceva, venisse affidato il compito della difesa dell’isola. Secoli dopo, l’idea ricompare nella leggenda ebraica del Golem, una creatura d’argilla resa animata mediante dei rituali sacri.
La leggenda fu ripresa successivamente nella tradizione del “Golem di Praga”, secondo la quale il Rabbino J.L. ben Bezalel avrebbe creato questa creatura per proteggere la comunità ebraica della città, nel XVI secolo [1]. Esempi successivi di automi animati emergono a più riprese, come il famoso “Turco Meccanico”, del 1770, che sconfisse a scacchi anche Napoleone; in realtà, come si scoprì molto tempo dopo, nel “Turco” prendevano posto dei giocatori di scacchi molto abili. Il mito dell’essere meccanico “pensante” è stato quindi riproposto nel tempo, a più riprese.
Questa idea ricorrente, infatti, non ha mai cessato di affascinare l’umanità, restando viva nell’immaginazione collettiva e nei film di fantascienza su futuri distopici, con robot antropomorfi intelligenti e con l’umanità soggiogata dalle macchine. Le narrazioni letterarie più famose sono state quelle descritte da Isaac Asimov, nel suo “Ciclo dei Robot”, in cui vengono formulate le famose tre leggi della robotica [2], mentre tra i film più famosi vengono alla mente “Metropolis”, “2001 Odissea nello spazio”, “Blade Runner”, “Terminator”, e tanti altri.
Interessante rilevare che le “Tre Leggi della Robotica”, definite da Asimov nei suoi racconti, costituiscono un riferimento storico molto in anticipo sui tempi, rispetto a quella che è stata, ai giorni nostri, l’evoluzione dell’etica dell’AI. Torneremo in seguito sui temi etici di cui questa intuizione di Asimov è stato un preludio, perché sono dei concetti che hanno avuto un notevole sviluppo in quella direzione della ricerca che prende il nome di “Human-Centered AI” [3]. Questi concetti sono stati ripresi anche nelle più recenti normative internazionali e in regolamenti specifici, come l’AI Act dell’Unione Europea.
Come gli Agenti AI sono diventati sistemi autonomi
Nello sviluppo scientifico dell’Intelligenza Artificiale il concetto di Agente Razionale, formalizzato da S.Russell e P.Norvig nel 1995 [4], rappresenta un agente che percepisce il mondo attraverso dei sensori e compie delle azioni tramite degli attuatori, e da questa definizione iniziale il modello di agente si è andato via via evolvendo.
I modelli che ne sono derivati hanno gradualmente aggiunto degli elementi ulteriori con capacità sempre crescenti, come la possibilità di interagire con l’ambiente conservando una memoria delle azioni compiute e dei feedback ricevuti. Si è poi arrivati a definire degli obiettivi, a gestire una funzione di utilità con cui misurare il risultato delle azioni, fino ad utilizzare l’addestramento su grandi quantità di dati con i modelli di Machine Learning. Un’evoluzione che ha reso sempre più flessibili le operazioni che questi agenti sono in grado di svolgere, in contesti di complessità crescente.
La vera novità di questi ultimi anni è stato l’utilizzo dei recenti modelli generativi (LLM) come componenti decisionali, nell’ambito di architetture che utilizzano gli agenti. Si è introdotta quindi una componente non deterministica, perché basata sui risultati ottenuti dai modelli generativi e dai loro processi inferenziali.
Le architetture agentiche si sono evolute gradualmente, passando da dei semplici agenti usati per scopi molto limitati, ad architetture complesse, con numerosi agenti che collaborano tra loro, svolgendo una sequenza di compiti, con obiettivi comuni prestabiliti. Sono quelle realizzazioni che vengono definite architetture Multi-Agente.
Governance e rischi degli Agenti AI
In questo contesto si pone quindi un problema di complessità nella governance, con la necessità di gestire controlli costanti e di verificare progressivamente i risultati. Controlli che vanno accuratamente progettati, in relazione al livello di autonomia che viene affidato agli Agenti AI.
Nel momento in cui si affidano a delle scelte autonome compiute da un Agente AI delle operazioni su dati sensibili, o la gestione di apparecchiature o infrastrutture critiche, è necessario valutare accuratamente il rischio che occorre gestire, connesso ad operazioni che possono produrre dei risultati diversi da quelli attesi, anche imprevedibili. Bisogna considerare che c’è un fattore di indeterminatezza di fondo nel comportamento di un modello LLM, per la natura stessa di questi modelli, che utilizzano tecniche di tipo probabilistico basate su rappresentazioni della conoscenza apprese in addestramento.
E’ quindi necessaria una valutazione costante del Livello di Rischio, in relazione al grado di autonomia che si decide di affidare agli agenti nel portare a termine i compiti assegnati. Una valutazione che deve tener conto di diverse componenti, sia quelle legate all’impatto che potrebbero avere decisioni o azioni negative, sia quelle dovute al livello di variabilità nelle risposte dei modelli generativi, e di conseguenza al loro grado di affidabilità.
Questa variabilità nelle risposte può essere determinata da vari fattori che vanno considerati nel loro complesso: quelli intrinseci, dovuti alla natura prevalentemente probabilistica dei modelli, ma anche quelli dovuti agli errori, alle allucinazioni, ai bias. Sono errori sempre possibili, in gran parte correlati alla qualità dei dati di addestramento, oltre che alle scelte progettuali effettuate.
Una ulteriore fonte di criticità di fondo è la nostra quasi completa dipendenza da piattaforme digitali su cui abbiamo un controllo molto limitato, perché gestite da compagnie americane e cinesi, con piccole ma significative esperienze europee. Questo vuol dire non avere una completa trasparenza su come i nostri dati vengono utilizzati, e neanche su come i modelli vengono progettati, con quali dati vengono addestrati e con quali algoritmi vengono resi operativi.
L’insieme di tutti questi fattori determina delle componenti di rischio diversificate, molto diverse da quelle note e gestite da anni in altri contesti. Nella impostazione classica del calcolo del Rischio, in un sistema complesso, si considerano la probabilità di accadimento di un evento avverso, in correlazione al suo impatto, nel caso si verifichi. Questo approccio è utilizzato anche in Cybersecurity, ed è alla base di importanti Framework di riferimento, come quelli del NIST [5].
Nel caso di sistemi agentici di Intelligenza Artificiale la situazione è più complessa, perché occorre considerare non solo la possibilità che una decisione errata venga assunta da un Agente AI, ma anche altri fattori concomitanti: dalle performance del modello LLM sottostante all’accuratezza dei risultati, dalla qualità dei dati di addestramento ai bias e alle allucinazioni che produce. Si tratta di elementi difficili da quantificare, perché legati alla maturità del modello e alle sue prestazioni, che vanno progressivamente valutate nel tempo. Questo rende molto più complesso valutare gli effetti e la dimensione del rischio che occorre gestire.
L’autonomia degli Agenti AI come fattore critico
Tra i diversi fattori, il problema di progettazione più importante da affrontare è rappresentato dal livello di autonomia che si decide di affidare agli Agenti AI. Ed è in base a questo livello che vanno progettati i controlli, per consentire un monitoraggio umano costante lungo tutto l’arco di vita dei progetti che li utilizzano, e la continua supervisione dei processi da parte degli operatori umani, con la possibilità di intervenire direttamente in ogni fase.
Il fattore critico del livello di autonomia può essere valutato in una scala progressiva, in relazione al tipo di azioni che un agente può svolgere e alla sua indipendenza nel portarle a termine. Ci sono casi a basso impatto, in cui una maggiore autonomia decisionale degli agenti risulta molto efficace, ma ci sono contesti in cui il controllo costante è indispensabile.
La bozza delle linee guida dell’AGID [6], sottoposta di recente a consultazione pubblica ma non ancora pubblicata in via definitiva, definisce sei livelli di autonomia possibile per gli Agenti AI: da zero (nessuna autonomia) a cinque (completa autonomia). Il suggerimento dato dalle linee guida è quello di non arrivare mai ad una completa autonomia, corrispondente al livello 5, se non per fini di ricerca e di laboratorio, e di utilizzare l’autonomia di livello 4 solo per limitate sperimentazioni.
Una impostazione molto prudente, soprattutto in questa fase storica. Il problema che si pone, quindi, è quello di trasferire questa impostazione nei progetti in via di realizzazione, e non solo in ambito Pubblica Amministrazione, ma in generale. Le linee guida AGID descrivono anche in modo dettagliato le caratteristiche delle architetture agentiche. Tuttavia, passare dalle linee guida alla realizzazione dei progetti, richiederà la necessità di compiere delle scelte ponderate, sia a livello di progettazione che di gestione effettiva dei controlli.
Framework e orchestrazione per controllare gli Agenti AI
Oltre alle linee guida dell’AGID diversi altri documenti di riferimento e framework di sviluppo sono stati pubblicati da alcune delle principali aziende tecnologiche, come Microsoft [7], Google [8], NVIDIA [9], oltre naturalmente alle aziende che sviluppano e gestiscono i Foundation Model, come Anthropic, OpenAI e DeepSeek.
In molti di questi framework viene messo in evidenza il ruolo dell’Agente Orchestratore, che nell’ambito delle applicazioni agentiche che vengono sviluppate, guida i workflow funzionali e coordina le attività distribuite tra più agenti e servizi, ne valuta i risultati ottenuti e gestisce le interazioni con l’operatore umano, per la gestione dei controlli e l’acquisizione delle decisioni.
Agenti AI nella PA e nelle imprese: sperimentazioni e limiti
Anche se molti passi in avanti sono stati fatti nella formulazione di framework e di offerte commerciali, siamo oggi in una fase ancora iniziale dello sviluppo di queste architetture, perché per Agenti AI, nella gran parte delle sperimentazioni che si stanno realizzando, si intendono soprattutto i Chatbot conversazionali, implementati sui siti web come assistenti online ai clienti e ai cittadini. In alcuni casi si sono realizzati dei workflow di gestione documentale, di smistamento di posta (ordinaria o certificata) e di supporto alle procedure amministrative. Siamo quindi ancora lontani dall’utilizzo di Agenti AI con un’autonomia decisionale più elevata e da architetture complesse multi-agente con compiti operativi effettivi.
Il rapporto AGID del giugno 2025 [10] presenta un’analisi dettagliata dell’utilizzo dell’AI nella Pubblica Amministrazione italiana e al capitolo relativo a “Tecnologie e addestramento del modello IA” così si legge:
“Oltre il 60% dei progetti analizzati integra funzionalità di IA sotto forma di chatbot e assistenti virtuali. Tuttavia, l’ampia diffusione di queste soluzioni potrebbe riflettere più una spinta di mercato che un’effettiva domanda funzionale interna.”
C’è quindi un’ampia discussione in corso, spinta anche dalle diverse proposte di soluzioni commerciali offerte dai vendor, ma siamo ancora nella fase di sperimentazione iniziale. Un aggiornamento su come la situazione si sta evolvendo potrà essere letto nel prossimo rapporto AGID, previsto per fine 2026.
Il progetto del MEF con supervisione umana
Alcuni progetti in corso di sviluppo destano già una grande attenzione, come quello presentato dalla Direzione Studi e Ricerche Economico-Fiscali del MEF, in collaborazione con SOGEI, all’ultimo Forum PA 2026. Il progetto riguarda l’impiego di una architettura agentica in cui un Agente Orchestratore analizza le richieste degli utenti e attiva un workflow, che prevede l’uso di altri agenti artificiali specializzati in diversi compiti: retrieval, consultazione di normative e produzione di output.
Il progetto è ad uso interno, ed è utilizzato sotto la stretta supervisione degli analisti umani, con un’autonomia limitata al supporto analitico. Si tratta di uno dei primi esempi di un progetto con architettura agentica complessa, che prevede una stretta supervisione umana e un affiancamento degli Agenti AI, con compiti di collaborazione, agli operatori umani, e non per compiere attività in autonomia [11].
Il recente Forum PA 2026 ha confermato che nella Pubblica Amministrazione italiana si sta passando da una fase prevalentemente di studio a una fase di analisi concreta delle possibili sperimentazioni. Emblematico è stato infatti un confronto tra operatori della PA, vendor e specialisti, sulle architetture agentiche, viste soprattutto come un fattore di efficientamento delle procedure per una migliore assistenza ai cittadini [12].
La foresta di agenti di CNH Industrial
L’interesse per questo tipo di soluzioni non riguarda però solo la PA, perché anche nel settore privato si stanno sperimentando diverse applicazioni basate su architetture agentiche. Un caso molto interessante è quello di un progetto presentato dalla CNH Industrial, in collaborazione con Aubay Italia, all’Osservatorio Data & Decision Intelligence, presso gli Osservatori Digital Innovation del Politecnico di Milano [13]. La CNH Industrial è un gruppo multinazionale italiano con sedi in tutto il mondo, ed ha sviluppato una architettura multi-agente nell’ambito della gestione delle Risorse Umane aziendali. Il sistema si basa su un Agente Orchestratore che coordina le attività specializzate di una “Foresta di Agenti”.
Questi agenti si interfacciano sia con le applicazioni gestionali sia con le basi documentali e i Data Lake aziendali, per fornire un supporto agli operatori umani nello svolgimento di processi amministrativi in ambito HR. I percorsi sono guidati in base al profilo dell’operatore e al ruolo aziendale che ricopre. I workflow di lavoro sono strettamente controllati, secondo il paradigma “Human-in-the-Loop” e prevedono l’intervento umano sia come supervisione e controllo, sia per i casi in cui il supporto agentico non si rivela del tutto efficace. Il progetto è presentato come modello modulare di riferimento per applicazioni replicabili, anche in altri dipartimenti, oltre che nella gestione delle HR [14].
Sono sperimentazioni molto concrete, che hanno adottato un approccio prudente allo sviluppo delle architetture agentiche, ma siamo ancora all’inizio di un percorso che dovrà prevedere lo sviluppo di applicazioni più avanzate.
Il mercato italiano e la maturità dell’Agentic AI
Il recente rapporto del Politecnico di Milano sul mercato dell’AI in Italia, indica che nel 2025 “il 71% delle grandi imprese italiane ha avviato almeno un progetto di AI, una percentuale che scende all’8% tra le piccole e medie realtà”. Un dato che evidentemente copre ogni tipo di applicazione AI, mentre in relazione alle architetture agentiche il direttore dell’Osservatorio AI, Nicola Gatti, osserva:
“Nel 2025 la parola dell’anno è stata ‘Agentic AI’, non tanto per la sua attuale portata economica o per il suo impatto potenziale, ma per la semplicità con cui ci ricorda la potenza dell’innovazione combinatoria: una volta resi disponibili gli LLM, sono stati sbloccati tanti possibili utilizzi, tra cui gli agenti, in un meccanismo che si rinforza e accelera ogni giorno. La piena maturità tecnologica dell’Agentic AI arriverà quando si realizzerà una piena convergenza tra motori cognitivi probabilistici e capacità native di ragionamento logico e autocorrezione, che garantiranno robustezza in processi complessi. Fino a quel momento, l’approccio ‘human-in-the-loop’ non è solo consigliato, ma necessario” [15].
Agenti AI e trasformazione dei modelli organizzativi
In tutte le discussioni in corso, e in tutti gli ambiti, si mette in relazione l’utilizzo dell’Intelligenza Artificiale con la necessità di rivedere profondamente i modelli organizzativi e i processi gestionali delle organizzazioni. Senza questa profonda trasformazione si rischierebbe infatti di perpetuare processi inefficienti, che potrebbero addirittura essere amplificati dall’introduzione dell’AI.
Una esigenza diffusa è quella di una formazione più approfondita, ad ogni livello, anche per contenere il fenomeno della Shadow AI, quello cioè di lasciare alla libera iniziativa dei dipendenti, in modo non governato, l’uso di strumenti che ormai sono entrati nell’uso comune. Si rende necessario quindi procedere allo sviluppo di linee guida e di governance a livello di singola organizzazione, favorendo sperimentazioni più significative di utilizzo dell’AI nei diversi contesti e in ogni settore aziendale.
Il fatto che ci si renda conto di quanto questa tecnologia sia pervasiva, e di come vada calata in modo pragmatico nelle realtà amministrative, è ormai una consapevolezza diffusa, ma cosa occorre fare per passare alla fase realizzativa di progetti più impegnativi?
Come progettare l’autonomia degli Agenti AI
L’elemento fondamentale da tenere sotto controllo, in questi progetti, è il livello di autonomia da affidare agli Agenti AI. Non si tratta di un semplice aspetto architetturale, o di un parametro da utilizzare nei modelli di analisi del rischio, ma costituisce un fattore determinante che contraddistingue le scelte da compiere, fin dalla fase di concepimento e di progettazione dei sistemi. Perché è dal livello di autonomia che discendono le diverse dimensioni del rischio, ed è su questa base che occorre progettare le dashboard di controllo, le verifiche, i checkpoint di approvazione e, infine, le validazioni delle decisioni effettuate dagli operatori umani.
Il confronto con i veicoli a guida autonoma
Per rendere l’idea di controllo più concreta possibile, possiamo utilizzare un esempio reale di diversificazione del livello di autonomia di un sistema agentico, analizzando il caso dei veicoli a guida autonoma (AV). Questo è uno dei contesti più approfonditi, in cui il livello di autonomia è stato classificato e regolamentato, trovando anche applicazione in diverse realizzazioni pratiche. Sistemi di questo tipo hanno ormai superato la fase di sperimentazione e sono utilizzati in molti contesti operativi, in particolare negli Stati Uniti, in Cina e negli Emirati Arabi Uniti. Molto significativo è l’esempio della società Waymo, che eroga servizi in molte città americane [16].
La classificazione dei veicoli a guida autonoma è stata definita dalla “Society of Automotive Engineers (SAE)”, nello standard SAE J3016 pubblicato per la prima volta nel 2014, e successivamente aggiornato [17]. Questa classificazione si articola in sei livelli, in una scala di autonomia crescente, da zero a cinque:
Livello 0 – Nessuna automazione: il veicolo non svolge azioni di guida, ma fornisce semplici supporti di assistenza.
Livello 1 – Assistenza alla guida: fornisce assistenza per funzioni semplici, come mantenere la velocità di crociera, o avvisare se ci si sposta dalla corsia di marcia.
Livello 2 – Automazione parziale: controlla sterzo, accelerazione e frenata, sotto la guida umana.
Livello 3 – Automazione condizionata: può guidare autonomamente in determinate condizioni operative, ma con il conducente in grado di prendere il controllo quando è richiesto dal sistema.
Livello 4 – Alta automazione: il veicolo è in grado di svolgere autonomamente tutte le attività di guida, in un’area ben delimitata. Il conducente può anche non essere presente nel veicolo, perché il sistema è in grado di effettuare una guida completamente autonoma all’interno di un contesto operativo specifico.
Livello 5 – Autonomia completa: il veicolo è in grado di guidare autonomamente in qualsiasi contesto.
Ad oggi non sono operativi, per usi civili in ambienti aperti, veicoli che abbiano un Livello 5 di autonomia, in conformità con la classificazione SAE. Quelli della Waymo, ad esempio, sono classificati di Livello 4, per quanto in assenza di conducente, perché sono soggetti a restrizioni ben precise, come aree territoriali specifiche, velocità, condizioni meteo, ecc.
Se mettiamo in relazione questi livelli di autonomia dei veicoli con l’autonomia da concedere agli Agenti AI, ritroviamo una classificazione molto simile a quella presente nella bozza delle linee guida AGID. Questa analogia è particolarmente efficace, perché deriva da un caso reale già sperimentato e aiuta a comprendere molto chiaramente cosa voglia dire concedere un’autonomia crescente ad un Agente AI.
Autonomia, supervisione e checkpoint di controllo
Nella progettazione di una architettura agentica il livello di autonomia va deciso a monte, in fase di definizione dei requisiti del progetto, e il livello da concedere deve derivare dalla classificazione del rischio, che nella maggior parte dei contesti prevede sempre la supervisione umana e un livello di autonomia limitato. Un livello compatibile con una supervisione umana costante è generalmente collocato tra il livello due e il livello tre della scala. In casi particolari si può arrivare a sperimentare il livello di autonomia superiore, ma senza mai arrivare ad una completa autonomia, come ci insegna il caso dei veicoli a guida autonoma.
I controlli vanno esercitati durante tutto il workflow operativo delle applicazioni, mediante dei checkpoint di verifica e approvazione da parte dell’operatore umano, con soglie operative prestabilite e limitazioni definite fin dalla fase progettuale. Nei casi in cui sono previsti impatti sulle persone, la decisione finale deve essere sempre dell’operatore umano, non dei modelli generativi e degli Agenti AI.
Una soluzione efficace per garantire un controllo costante può essere quella, almeno in una fase iniziale di sperimentazione, di non affidare il compito di Orchestratore ad un Agente AI, ma di gestire il workflow con un Orchestratore deterministico, realizzato con un modulo software tradizionale che guida le fasi operative, effettua i controlli sui dati trattati, sulle risposte degli LLM e presenta quindi progressivamente i dati all’operatore, in una dashboard decisionale strutturata. Il passaggio ad un Orchestratore agentico potrebbe essere effettuato in un secondo momento, se richiesto da scelte successive, dopo una fase di sperimentazione e di verifica nel tempo, monitorando i risultati e l’affidabilità del sistema realizzato.
Agenti AI ad alta autonomia e sistemi ad alto rischio
Una eccezione significativa a questo approccio prudenziale, basato su una progressiva sperimentazione dell’autonomia, riguarda quei contesti in cui diventa indispensabile progettare Agenti AI con livelli di autonomia molto elevati. Non si tratta di processi amministrativi o produttivi ordinari, ma di situazioni in cui l’intervento umano non sarebbe possibile nei tempi estremamente ridotti richiesti da un’emergenza reale.
E’ il caso, ad esempio, di attacchi di cybersecurity condotti da Agenti AI, o di situazioni di pericolo imminente per la vita delle persone. In questi casi il controllo umano non può avvenire in tempo utile per affrontare l’emergenza, ma deve essere previsto in modo strutturale nella progettazione dei sistemi, secondo i principi di “safety-by-design”, la definizione di soglie di allarme e procedure automatiche di contenimento.
Occorre tenere sempre presente, nella progettazione di questi sistemi, che la normativa europea rappresentata dall’AI Act stabilisce degli obblighi molto stringenti per il controllo dei sistemi ad alto rischio, come ad esempio quelli che trattano dati personali, o si relazionano con il pubblico, o gestiscono infrastrutture critiche.
Responsabilità giuridica e governance degli Agenti AI
Si pone, in ogni caso, il tema della responsabilità giuridica, perché il risultato di tutte le attività svolte con l’ausilio dei sistemi di AI deve rimanere sotto la supervisione e la responsabilità dei soggetti umani.
In una architettura che integra componenti software, Agenti AI, modelli generativi, dati acquisiti da fonti esterne, e con utilizzo di componenti e servizi di terze parti, ricostruire la catena delle responsabilità e risalire alla causa specifica di un danno è un’operazione estremamente complessa. Questo è il motivo per cui si insiste molto sulla Governance, l’Accountability e i Controlli, anche nelle normative.
Gli Agenti AI non sono soggetti giuridici e pertanto non sono titolari di alcuna responsabilità, che ricade invece sui soggetti fisici o giuridici che sono coinvolti nella progettazione, nello sviluppo, nell’integrazione, nella messa in esercizio e nell’utilizzo dei sistemi di AI. In coerenza con questa impostazione, l’AI Act europeo attribuisce gli obblighi normativi previsti dal Regolamento ai diversi soggetti coinvolti nel ciclo di vita di questi sistemi [18].
Innovare con gli Agenti AI senza perdere il controllo
Le architetture agentiche comportano problemi complessi da gestire che saremo in grado di governare se sapremo comprendere fino in fondo le implicazioni e le complessità progettuali che derivano dall’utilizzo dell’Intelligenza Artificiale, nella vita di tutti i giorni e nei sistemi che progettiamo. Dobbiamo avere consapevolezza dei rischi e dei limiti da gestire, competenze progettuali adeguate e capacità decisionali che ci consentano di ridurre la complessità sistemica a processi controllabili, basati sulla costante supervisione umana e ponendo i nostri valori etici al centro delle scelte progettuali che facciamo.
Occorre utilizzare la tecnologia sempre in modo correlato al livello di rischio da gestire. In questo modo le opportunità offerte dagli Agenti AI potranno essere una straordinaria occasione di sviluppo e di innovazione, senza diventare una fonte incontrollata di nuovi rischi.
Note
[1] MOSHE IDEL – Golem: Jewish Magical and Mystical Traditions on the Artificial Anthropoid –
State University of New York Press – 1990
[2] I. ASIMOV – Io, Robot – Mondadori – 2021
[3] B. SHNEIDERMAN – Human-Centered AI – Oxford University Press – 2022
[4] S. J. RUSSELL, P. NORVIG – Artificial Intelligence: A Modern Approach. Upper Saddle River, NJ, USA: Prentice Hall, 1995.
[5] NATIONAL INSTITUTE OF STANDARD AND TECHNOLOGY (NIST):
Special Publication 800-30 Rev. 1 – Guide for Conducting Risk Assessments – 2012
https://nvlpubs.nist.gov/nistpubs/Legacy/SP/nistspecialpublication800-30r1.pdf
[6] AGENZIA PER L’ITALIA DIGITALE (AGID) – Linee guida su IA nella PA: al via la consultazione pubblica su sviluppo e procurement – 2026
https://www.agid.gov.it/sites/agid/files/2026-03/LLGG_Sviluppo_per%20consultazione%20pubblica.pdf
[7] MICROSOFT – AI agent orchestration patterns – 2026
https://learn.microsoft.com/en-us/azure/architecture/ai-ml/guide/ai-agent-design-patterns
[8] GOOGLE CLOUD – Agent Development Kit – 2026
https://docs.cloud.google.com/gemini-enterprise-agent-platform/build/adk?hl=it
[9] NVIDIA – AI-Q Blueprint for intelligent agents – 2026
https://build.nvidia.com/nvidia/aiq
[10] AGID – “L’intelligenza Artificiale nella Pubblica Amministrazione” – Rapporto di ricognizione dei progetti IA nelle PA centrali, giugno 2025.
[11] MEF: Dipartimento delle Finanze – Forum PA 2026 – L’Intelligenza Artificiale per leggere i dati della finanza locale e supportare le decisioni pubbliche – 2026
[12] Forum PA 2026 – Verso una PA “agentica”, tra sicurezza e nuova relazione con il cittadino
[13] POLITECNICO DI MILANO – Use Case Session 2026: “Agentic AI per la trasformazione dei servizi HR in contesti complessi” – 18 giugno 2026
https://www.polimi.it/il-politecnico/eventi/dettaglio-evento/use-case-session-2026
[14] M. GARGIULO – L’evoluzione delle Risorse Umane con l’Agentic AI: il modello di CNH – People&Change360 – 2026
[15] POLITECNICO DI MILANO – Il mercato dell’AI in Italia nel 2025 – 2026
[16] WAYMO – Waymo Driver – 2026 – https://waymo.com/waymo-driver/
[17] SAE INTERNATIONAL – SAE J3016™ – Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles, prima edizione 2014, ultima revisione SAE J3016_202104 – 2021.
[18] REGOLAMENTO UE 2024/1689 del Parlamento Europeo e del Consiglio (AI Act) – 2024
https://eur-lex.europa.eu/legal-content/IT/TXT/?uri=OJ%3AL_202401689
Partecipa alla community