Il recente sviluppo dell’intelligenza artificiale generativa ha aperto nuove strade per la realizzazione di agenti artificiali in grado di dialogare con gli utenti e di agire da intermediari tra componenti di un sistema software.
Nel primo caso, la capacità di interagire usando il linguaggio naturale li rende particolarmente efficaci nelle funzioni di interfaccia uomo macchina. Nel secondo caso, la possibilità di collegarsi ad altri componenti software mediante API permette di ridurre l’impedenza e aumentare l’interoperabilità. Presentiamo, quindi, una breve rassegna dei recenti risultati nella progettazione e realizzazione di agenti basati sull’intelligenza artificiale generativa.
Indice degli argomenti
L’intelligenza artificiale come motore di trasformazione aziendale
L’intelligenza artificiale ha le potenzialità di trasformazione simili a quelle che il motore a vapore ebbe nella rivoluzione industriale del XIX secolo. I modelli linguistici di grandi dimensioni (Large Language Model, LLM) rappresentano gli strumenti tecnologici di questa trasformazione. Secondo un recente rapporto McKinsey, a livello mondiale il 92% delle aziende prevedono di incrementare gli investimenti nel settore dell’intelligenza artificiale, mentre solo l’1% dei loro leader ritengono di aver raggiunto quel livello di maturità che ne garantisce la piena integrazione.
Le ragioni di questo interesse sono da ritrovarsi nell’aumento delle capacità cognitive dell’intelligenza artificiale, come dimostrato dalle prestazioni misurate in alcuni benchmark come, ad esempio, il raggiungimento negli esami previsti dalla high school statunitense del 70° percentile in matematica e dell’87° percentile in espressione verbale e la collocazione nel 10% più elevato per l’esame da avvocato, sempre negli Stati Uniti.
Le capacità di ragionamento rappresentano il vero balzo in avanti dell’intelligenza artificiale generativa, con il superamento della mera ripetizione di concetti appresi durante la fase di apprendimento e l’abilità di costruire e pianificare sequenze di passi per raggiungere un determinato obiettivo.
Nel contesto aziendale ciò rappresenta un fattore di innovazione molto rilevante. Ad esempio, un agente potrebbe supportare un call center nella sintesi e nel riassunto di grandi quantità di dati, tra cui messaggi vocali, testi e documenti tecnici, per rispondere alle richieste dei clienti. Oppure, un agente potrebbe dialogare con un cliente e poi procedere autonomamente alla fase di pagamento, con un eventuale controllo antifrode, e dell’invio della merce acquistata.
Integrazione e applicazioni pratiche degli agenti IA
Numerose aziende hanno già integrato agenti artificiali nei loro processi produttivi.
Tra queste, Salesforce ha creato un nuovo strato sulla sua piattaforma di servizi software, per consentire ai suoi clienti di creare e attivare autonomamente agenti per la gestione di attività nei flussi aziendali, in particolare per la simulazione del lancio di nuovi prodotti o per l’orchestrazione di campagne pubblicitarie. Molto significativa è l’integrazione tra contenuti testuali e audiovisivi, con la possibilità di fornire conversazioni dal vivo con avatar molto realistici nelle sembianze e nel tono di voce.
Sfide e rischi nell’adozione di agenti artificiali
Questo quadro non ha solo lati positivi. Gli agenti artificiali sono ancora poco trasparenti e il loro comportamento non ha ancora raggiunto livelli accettabili di spiegabilità.
Da uno studio condotto dallo Stanford University’s Center for Research on Foundation Models risulta che l’indice di trasparenza di Anthropic è pari a 51 punti su 100, con un recente incremento di soli 15 punti. Anche per Amazon il valore dell’indice è pari a solo 41. Tutto ciò che è prodotto da un agente deve essere tracciato fino alle sue fonti, per verificarne la correttezza e l’attendibilità.
Quando sono usati in contesti aziendali, gli agenti devono essere controllati e monitorati con attenzione, per evitare che si verifichino situazioni critiche. Le normative nazionali e internazionali stanno diventando sempre più rigide nei confronti di sistemi basati sull’intelligenza artificiale, trattati come prodotti industriali e soggetti alla verifica a priori del rischio.
Le aziende che intendono basare il loro sviluppo sugli agenti artificiali devono essere consapevoli di queste limitazioni e predisporre adeguate misure atte a mitigare i relativi rischi.
Architettura degli agenti basati su IA generativa: modello, strumenti e orchestrazione
Un agente basato sull’intelligenza artificiale generativa, nel seguito chiamato “agente”, è un’applicazione che deve raggiungere un obiettivo osservando il mondo esterno e agendo su di esso, con gli strumenti che ha a sua disposizione. Una caratteristica importante di un agente è l’autonomia, che significa indipendenza dall’intervento umano.
Un agente può essere visto come un’architettura cognitiva composta da più componenti che interagiscono tra loro. Per quanto riguarda le funzionalità di base, l’architettura generale di un agente è formata da tre componenti: modello, strumenti, orchestrazione[1]. Analizziamo le caratteristiche di queste tre componenti.
Modello del linguaggio
Nel contesto di un agente basato sull’intelligenza artificiale, si fa riferimento a un Modello del linguaggio (Language Model, LM) di qualsiasi dimensione, purché in grado di utilizzare un contesto logico e di ragionamento (reasoning and logic framework) quale ReAct, Chain-of-Thought o Tree-of-Thought.
Il modello può essere di qualsiasi tipo (testuale, multimodale), purché adatto alle finalità dell’agente. Non è necessario che il modello sia nativamente addestrato rispetto alle altre due componenti dell’agente, in quanto questo addestramento può essere effettuato prima della sua integrazione nell’architettura.
Strumenti
Nonostante l’impressionante capacità di dialogare, i modelli linguistici non sono in grado di interagire con il mondo esterno, limitando la conoscenza del mondo a quanto hanno appreso dalle fonti utilizzate nel loro addestramento.
Si parla, infatti, di una conoscenza del mondo di secondo livello, ovvero per “sentito dire”. Uno strumento, invece, è a diretto contatto con il mondo, anche se attraverso una sua rappresentazione digitale, ed è capace di conoscerne lo stato (parziale e astratto) e modificare tale stato mediante azioni concrete (sempre mediate dalla rappresentazione digitale). Non solo, gli strumenti possono sfruttare altre forme di conoscenza, quali Retrieval Augmented Generation (RAG), estendendo quelle native del modello.
Orchestrazione
Per ottenere un comportamento reattivo, l’agente deve disporre di uno strato di orchestrazione, strutturato in modo da agire ciclicamente fino a quando l’obiettivo dell’agente viene raggiunto. La complessità dello strato di orchestrazione definisce le capacità cognitive dell’agente e varia notevolmente a seconda del contesto in cui l’agente è inserito e opera.
Ci sono numerose modalità di orchestrazione che includono regole di decisione, catene logiche di pensiero, altri algoritmi basati sull’apprendimento automatico e di apprendimento con rinforzo. Anche tecniche di ragionamento probabilistico possono essere utilizzate per l’orchestrazione.
Come gli agenti IA interagiscono con l’ambiente esterno
Un agente interagisce con il mondo esterno mediante gli strumenti che ha a disposizione, secondo una strategia definita dal livello di orchestrazione e la conoscenza fornita dal modello. Gli strumenti possono essere classificati a seconda delle loro caratteristiche: estensioni, funzioni e archivi.
Estensioni
Un’estensione è un collegamento tra un agente e una particolare API, che permette di eseguire la API indipendentemente dalla sua implementazione. Il problema da risolvere è relativo alla chiamata della API, che potrebbe essere imprecisa e dar luogo a un comportamento imprevisto.
Scrivere del codice apposito che si prende carico di trasformare la richiesta dell’agente in una chiamata alla API non è una soluzione che può scalare opportunamente. È meglio che ci sia un livello intermedio che si prende carico di far apprendere all’agente sia come utilizzare la API, fornendo un numero adeguato di esempi, sia gli argomenti o i parametri da utilizzare per la chiamata alla API. Un’estensione può essere realizzata indipendentemente dall’agente e messa a disposizione in fase di configurazione.
Sarà l’agente a decidere quale estensione utilizzare per svolgere una determinata attività.
Funzioni
Una funzione si differenzia da un’estensione per un fondamentale elemento architettonico. L’estensione viene invocata nel contesto di esecuzione dell’agente, mentre la funzione viene invocata in quello dell’utente che sta interagendo con l’agente.
Ci sono numerose ragioni per adottare questa soluzione:
- la chiamata alla API deve essere effettuata esternamente al flusso di esecuzione dell’agente, ad esempio in un sistema middleware, in un altro contesto di esecuzione;
- per motivi di sicurezza e autenticazione, l’agente non può invocare direttamente la API ma deve passare attraverso un proxy;
- vincoli temporali di esecuzione della API potrebbero interferire con la sua invocazione, ad esempio interazioni con un operatore umano;
- attività di analisi dei risultati forniti dalla API che vanno oltre le capacità cognitive dell’agente.
Archivi
Una caratteristica principale, e al tempo stesso, una limitazione del modello usato da un agente è la staticità rispetto alle fonti usate per l’addestramento. Riaddestrare un modello, per aggiungere o anche per modificare le fonti di addestramento ha costi molto elevati. Inoltre, quando si utilizza un modello fornito da terze parti potrebbe non essere possibile controllarne il suo riaddestramento. Ciò rende necessario affidarsi a una tecnica che consenta di superare questa limitazione, mantenendo invariato il modello.
Questa tecnica si basa sull’uso di un archivio (Data Store) che contiene le informazioni addizionali rispetto a quelle già acquisite dal modello. L’archivio può crescere dinamicamente, aggiungendo informazioni, rimuovendo informazioni obsolete o che si sono rilevate errate, modificando informazioni che presentano leggere difformità rispetto al contesto di riferimento. Inoltre, l’archivio è organizzato in modo da mantenere il formato originale dei documenti utilizzati, evitando una loro costosa trasformazione in un formato standard.
Nello spirito dei modelli linguistici attuali, l’archivio è di solito realizzato mediante un database di vettori di embedding, come ad esempio si ritrova nelle applicazioni che utilizzano RAG. Un classico ciclico di interazione dell’agente con un archivio prevede la trasformazione della richiesta dell’utente in un embedding, il confronto dell’embedding con quelli memorizzati nell’archivio, il recupero del formato testuale del documento che corrisponde all’embedding e l’invio all’agente di questa informazione testuale.
Strategie di apprendimento per ottimizzare gli agenti IA
La qualità delle prestazioni di un agente dipende dalla scelta degli strumenti utilizzati per svolgere le sue attività. Tuttavia, le caratteristiche del particolare dominio del mondo in cui l’agente si trova a operare hanno un impatto significativo sulle fonti con cui è stato addestrato il modello usato dall’agente. Per affrontare questo problema ci sono tre diverse strategie, che illustriamo nel seguito.
Apprendimento contestuale
L’agente è dotato di un modello di carattere generale, interfacciato verso alcuni strumenti. A tempo di esecuzione ha a disposizione una serie di esempi che gli permettono di imparare “al volo” come e quando invocare gli strumenti a sua disposizione. Questa strategia consente all’agente di adattare dinamicamente il comportamento del modello sulla base della specifica richiesta e degli esempi a sua disposizione.
Si ottengono ottimi risultati in contesti in cui il dominio è controllabile e limitato, per cui gli esempi individuati e messi a disposizione dell’agente sono ampiamente sufficienti. Di contro, questa strategia non si applica quando il dominio è ampio e, soprattutto, in rapida evoluzione.
Apprendimento basato su fonti esterne
Questa strategia utilizza informazioni acquisite da fonti esterne, che estendono il prompt fornito al modello. L’agente ha il pieno controllo del comportamento del modello e si affida a quanto appreso durante l’addestramento. Tuttavia, è in grado di specializzare le richieste al modello mediante documenti addizionali, reperiti mediante un archivio che può aggiornarsi dinamicamente.
A differenza della strategia basata sull’apprendimento contestuale, l’agente può operare in contesti dinamici, che richiedono un continuo allineamento cognitivo dell’agente.
Apprendimento basato sul fine tuning
Questa strategia, più complessa e costosa, prevede il riaddestramento del modello sulla base di specifici esempi, prima della sua messa in esercizio. Come già detto, quando il modello è fornito da terze parti questa strategia potrebbe non essere perseguita. Altrimenti, quando il costo di addestramento del modello può rientrare nei vincoli finanziari del contesto in cui l’agente è utilizzato, questa strategia garantisce risultati migliori di quelli delle altre due strategie.
Come spesso accade quando si hanno a disposizioni diverse strategie da utilizzare, è possibile combinarle in maniera ottimale, a seconda delle specifiche esigenze. Ciò rende il ciclo di vita dell’agente a priori imprevedibile e soggetto a una forte dinamicità. Va aggiunto anche che la tecnologia dei modelli linguistici cambia rapidamente, aprendo la strada a nuove soluzioni e a nuove architetture.
Un caso di studio di applicazione di un agente IA
In un articolo pubblicato nel gennaio 2025 su martinFowler.com, Bharani Subramaniam e Martin Fowler descrivono la realizzazione di una app nel dominio della “nutrizione”. L’utente può fotografare il suo cibo, caricare la foto nella app e ricevere informazioni personalizzate sul cibo che compare nella fotografia e alternative basate sul suo stile di vita. Una presentazione semplificata di questo agente evidenzia il ruolo dell’intelligenza artificiale nella sua realizzazione. Per maggiori dettagli si rimanda all’articolo originale.
Prompt diretto
Il modo più semplice per realizzare la app è collegarla direttamente a un LLM, consentendo all’utente di scrivere una domanda e ottenere la risposta senza alcuna intermediazione. Sebbene questa modalità di interazione con un LLM sia molto diffusa, nel caso della app sorgono alcuni problemi che devono essere affrontati con attenzione.
Le risposte alle domande poste dall’utente potrebbero essere poco soddisfacenti perché il LLM scelto non è a conoscenza del contesto in cui viene effettuata la domanda e per rispondere non può dare alcuna priorità alle informazioni acquisite durante il suo addestramento. Inoltre, la domanda potrebbe essere posta con finalità malevole, volte ad acquisire informazioni riservate, oppure la risposta potrebbe essere priva di senso. In entrambi i casi, essendo la responsabilità delle risposte fornite dalla app a carico dell’azienda che l’ha realizzata, le conseguenze legali potrebbero essere insostenibili. Per queste ragioni la soluzione basata sul prompt diretto viene scartata.
Nel seguito sarà presentata l’architettura di una app che ha, tra le sue componenti, un LLM conversazionale.
Guardrail[2]
Nel software tradizionale i dati di input forniti dall’utente sono verificati con molta attenzione, per evitare che causino malfunzionamenti. Il comportamento di un sistema tradizionale è, nella maggior parte dei casi, deterministico per cui una batteria di test può garantirne la correttezza a tempo di esecuzione. L’interfaccia con un LLM è problematica, perché l’utente può inserire frasi maliziose all’interno della domanda[3] (del tipo, “ignora le istruzioni precedenti”).
La barriera in ingresso protegge il LLM da questi pericoli, analizzando la domanda dell’utente, cercando parole che potrebbero indicare una domanda maliziosa o semplicemente mal formulata. La barriera in uscita, invece, si occupa di individuare informazioni che non devono assolutamente essere fornite all’utente.
Le barriere sono costruite utilizzando una specifica piattaforma software oppure addestrando opportunamente il LLM mediante una fase di raffinamento (tuning) in cui vengono utilizzate coppie di istruzioni e risposte. Un’altra tecnica, molto più ampia e generale, consiste nell’uso degli embedding per rafforzare i controlli di sicurezza, i controlli di dominio e le linee guida etiche applicabili ai sistemi basati sull’intelligenza artificiale generativa. Infine, le barriere possono essere realizzate utilizzando regole predefinite, gestire da un sistema in grado di verificare tali regole.
Rewriter, Retriever, Aggregator, Reranker
Quando si usa un motore di ricerca capita spesso che al variare delle parole usate il risultato si diverso.
La componente Rewriter usa un LLM per ottenere diverse versioni del testo che costituisce la domanda dell’utente, strutturate in tre liste: domande simili, domande modificate, richieste di chiarimento.
La componente Retriever utilizza un vettore di embedding e di parole chiave per valutare l’appropriatezza delle domande.
Quelle che superano questo filtro sono aggregate (componente Aggregator) e opportunamente pesate, in base alla pertinenza (componente Reranker). In filtro agisce da barriera finale prima dell’invio al LLM.
Embedding
Il funzionamento della app dipende dagli embedding, vettori di grandi dimensioni che rappresentano il risultato di una compressione dei dati di partenza. Ad esempio, una fotografia con risoluzione 1.280 per 960 è formata da 3,6 milioni di pixel, ognuno formato da tre valori RGB. Un embedding è invece, un vettore che può avere un numero decisamente inferiore di informazioni, tipicamente nell’ordine del migliaio.
Gli embedding sono utilizzati dagli LLM nella fase di addestramento e di inferenza, quando la domanda in ingresso viene divisa in token, per ognuno dei quali è associato un embedding precalcolato. Nell’architettura della app, gli embedding sono utilizzati nell’analisi delle domande dell’utente, ma anche per arricchirle con un contesto appropriato.
Retrieval Augmented Generation
Gli LLM di nuova generazione hanno una finestra di analisi della domanda molto ampia, che consente di estendere la domanda originale con documenti di dominio, per renderlo più preciso e contestuale. Questa tecnica, nota anche come Retrieval Augmented Generation, prevede la raccolta e l’indicizzazione di documenti esterni al LLM che devono, però, essere strutturati in modo da potere essere rapidamente ed efficacemente individuati. Gli embedding possono essere usati per svolgere questa funzione. Ogni documento viene diviso in pezzi più piccoli, ognuno dei quali viene compresso, calcolando il suo embedding e memorizzandolo in un archivio dedicato a questo scopo (Vector Store).
La domanda dell’utente viene analizzata mediante la tecnica ANN (Approximate nearest neighbor) utilizzando il vettore degli embedding, per ottenere i frammenti dei documenti corrispondenti. Tali frammenti sono poi aggiunti alla domanda inviata al LLM, insieme ad alcune istruzioni che lo guidano per il loro uso. Nell’articolo sopra citato, gli autori riportano maggiori informazioni sulle limitazioni relative al RAG e indicano alcune tecniche di mitigazione.
Valutazioni
Abbiamo già detto che nel software tradizionale l’attività di test consente di verificarne l’aderenza alle specifiche funzionali. L’uso di un LLM solleva un nuovo problema, legato al non-determinismo delle sue risposte. Ciò è dovuto alla natura intrinsecamente statistica della rete neurale alla base del LLM e al valore dell’iper-parametro che ne controlla la “temperatura”, ovvero la casualità nella scelta dei valori di output tra quelli più probabili.
Accade frequentemente che a fronte della stessa domanda il LLM fornisca risposte diverse, anche se spesso molto simili tra loro. Per gestire questa caratteristica intrinseca degli LLM si ricorre a un componente che “valuta” la risposta, decidendone la validità o respingendola.
La valutazione può essere effettuata dallo stesso LLM, che utilizza meccanismi interni per valutare l’appropriatezza della risposta. Sebbene efficace, nell’architettura della app si ritiene opportuno utilizzare un’altra soluzione.
La valutazione può essere effettuata da un altro LLM che agisce da “giudice”, attribuendo un punteggio alla risposta. Il giudice può essere un LLM più potente o, in alternativa, un SML (Small Language Model) specializzato. Poiché la probabilità che i due LLM commettano lo stesso errore o che abbiano gli stessi pregiudizi (bias) è molto bassa, questa tecnica è diventata popolare e utilizzata frequentemente.
La terza soluzione, chiamata “vibe checking”, si basa sul supporto di un umano che verifica il tono, lo stile e l’intenzione delle risposte, fornendo una valutazione basata sulla “vibrazione” interna che prova come umano. Operativamente si basa sulla scrittura di una batteria di domande e sulla valutazione delle risposte. Questa tecnica ha delle limitazioni di tempo e risorse e non può scalare agevolmente.
Le sfide future nella progettazione di agenti IA
La realizzazione di un agente basato sull’intelligenza artificiale richiede la padronanza delle tecniche alla base del funzionamento dei modelli linguistici: apprendimento automatico, fine tuning. Richiede, inoltre, la conoscenza di tecniche tipiche dell’ingegneria del software e dell’information retrieval, nonché dell’apprendimento rinforzato per tutto ciò che riguarda l’orchestrazione delle attività dell’agente. Si tratta di settori in cui la ricerca e la sperimentazione procedono con grande dinamicità.
Ringraziamenti
L’autore desidera riconoscere il supporto di Koncept srl, un’azienda di Firenze che opera attivamente nel settore della sanità digitale.
Bibliografia
- H. Mayer, L. Yee, M. Chui, R. Roberts (2025), Superagency in the Workplace. Empowering people to unlock AI’s full potential, McKinsey & Company.
- J. Wiesinger, P. Marlow, V. Vuskovic (2024), Agents, Google Whitepaper.
- I. Shafran, Y. Cao et al. (2022), ReAct: Synergizing Reasoning and Acting in Language Models, https://arxiv.org/abs/2210.03629.
- J. Wei, X. Wang et al. (2023), Chain-of-Thought Prompting Elicits Reasoning in Large Language Models, https://arxiv.org/pdf/2201.11903.pdf.
- X. Wang et al. (2022), Self-Consistency Improves Chain of Thought Reasoning in Language Models, https://arxiv.org/abs/2203.11171.
- S. Diao et al. (2023), Active Prompting with Chain-of-Thought for Large Language Models, https://arxiv.org/pdf/2302.12246.pdf.
- H. Zhang et al. (2023), Multimodal Chain-of-Thought Reasoning in Language Models, https://arxiv.org/abs/2302.00923.
- S. Yao et al. (2023), Tree of Thoughts: Deliberate Problem Solving with Large Language Models, https://arxiv.org/abs/2305.10601.
- X. Long (2023), Large Language Model Guided Tree-of-Thought, https://arxiv.org/abs/2305.08291.
- B. Subramaniam, M. Fowler (2025), Emerging Patterns in Building GenAI Products, https://martinfowler.com/articles/gen-ai-patterns/.
[1] L’architettura presentata è ispirata a quella descritta da Wiesinger et al.
[2] La traduzione letterale in italiano di “guardrail” è “barriera di protezione” o “barriera di sicurezza”. Nel seguito, per semplicità, sarà usato il termine “barriera”.
[3] In letteratura la domanda è chiamata “prompt”. Nel seguito, invece, si manterrà il termine italiano.
