I modelli di decisione sono modelli LLM raffinati per generare decisioni invece che testo arbitrario: a partire da un oggetto JSON che descrive uno stato e le domande che si pongono al modello si riceve una valutazione di come rispondere alle domande a partire dallo stato insieme ad un grado di confidenza sulla risposta generata. Decidere è un’attività essenziale di qualsiasi sistema computazionale, e la possibilità di prendere decisioni col supporto dell’AI rende questi modelli molto interessanti perché facilmente impiegabili in scenari reali, inoltre essendo modelli specializzati offrono ottime prestazioni anche con limitate risorse computazionali e quindi possono essere eseguiti offline.
Ma come possono essere praticamente impiegati in una realtà aziendale? Quali competenze richiedono per essere messi in campo? Cerchiamo di rispondere a queste domande con un semplice caso d’uso che è la gestione dei ticket all’interno di un’azienda.
Indice degli argomenti
Modelli decisionali AI: cosa sono e quali domande gestiscono
Anche se per una più approfondita trattazione raccomando di leggere l’articolo sui modelli di decisione facciamo un breve riepilogo su cosa sono e cosa offrono. Il modello che ha reso popolare questa nuova classe di modelli AI si chiama JEV, ma sono già disponibili numerose varianti open weight di modelli con capacità analoghe. Noi faremo uso di ollama e del modello clef-flash, un raffinamento del modello Qwen3.5-9B orientato alle decisioni.
I modelli decisionali cercano di rispondere a una o più domande relative ad uno stato fornito nel prompt. Le domande possono essere di tre tipi:
- Vero/falso
- Scelta
- Punteggio
Sono domande di classificazione in cui si pone la domanda al modello e si forniscono le regole per classificare lo stato in base allo stato. Non si possono estrarre informazioni o compiere altre valutazioni, e proprio queste limitazioni rendono questi modelli estremamente facili da impiegare in numerosi processi produttivi dove una decisione richieda valutazioni non banali.
Prompt e risposte JSON con Ollama
Non esiste ancora una API standard per questi modelli, ma sostanzialmente accettano oggetti in formato JSON come richiesta e rispondono oggetti JSON. Ollama offre una API che chiama System one, e quello che segue è un esempio di input per un modello decisionale:
Anche senza troppe competenze tecniche si indovina facilmente il funzionamento di questo prompt specializzato: lo stato contiene un’affermazione in questo caso (ma potrebbe contenere anche altri elementi più strutturati) e tre domande (una per tipologia di domanda) con le istruzioni su come etichettare le risposte.
Il modello risponde con un oggetto JSON contenente le etichette che il modello propone in base alle istruzioni e allo stato.
La strutturazione dei prompt al modello potrebbe spaventare chi non è tecnico e far ritenere che questi modelli siano difficili da impiegare. Cerchiamo quindi di fare alcuni esempi su come utilizzare clef-flash e ollama per un servizio di classificazione delle richieste di supporto.
Come integrare i modelli decisionali AI con Microsoft Forms
Supponiamo di voler raccogliere i problemi di un’applicazione per gli studenti (si tratta in effetti di un caso d’uso reale) mediante una form che ha un semplice campo di descrizione che lo studente compila. Per preparare uno script di controllo ho chiesto a Claude:
“Vorrei fare una demo di come usare clef-flash su ollama sulla mia macchina per classificare le risposte di un modulo Microsoft Forms di richiesta assistenza per gli studenti dell’Università di Pisa che hanno problemi nell’uso del portale. La form contiene semplicemente il testo e l’oggetto del problema. Dal testo è necessario capire se si tratta un problema di processo amministrativo e nel caso inviare un messaggio a supporto-studenti@unipi.it oppure se si tratta di un problema applicativo e nel caso scrivere a supporto-portale@unipi.it oppure di autenticazione e quindi scrivere a supporto-autenticazione@unipi.it o infine di uno di rete e nel caso scrivere a supporto-rete@unipi.it. Serve anche classificare l’urgenza del problema e fornire una valutazione della complessità della possibile soluzione. Vorrei uno script che legge il dato, invoca clef-flash e poi invia le comunicazioni, lo script sarà schedulato su Windows e vorrei Powershell (core)”
Dal prompt allo script PowerShell
Come ormai abbiamo imparato il prompt ha un ruolo fondamentale nell’ottenere un risultato e, nella sua semplicità il prompt che ho usato contiene tutte le specifiche necessarie. Ovviamente in un caso d’uso reale sarebbe necessario fornire più informazioni sul portale, più dettagli su chi fa cosa e magari delle priorità. Inoltre, non ho specificato come leggere i dati del form, e vi sono più alternative possibili: dallo scaricamento del file Excel all’uso della Graph API per leggere i dati.
Nonostante questi limiti di specifica Claude ha generato in poco più di cinque minuti uno script Powershell che svolge tutto il compito richiesto secondo lo schema seguente.
Classificazione dei ticket e invio delle email
Nello script è abbastanza facile individuare il prompt anche se si potrebbe chiedere di renderlo esterno in modo da poterlo modificare più agevolmente. E le domande fatte al modello sono quelle naturali. Lo script legge direttamente il foglio Excel leggendo il formato XML ed invia le email utilizzando il server SMTP di Microsoft.
La prova dello script e i controlli da svolgere
Lo script ha funzionato alla prima prova ed è un ottimo esempio di come sia possibile integrare un modello di decisione all’interno di un flusso anche senza avere particolari competenze di sviluppo. Certo, va verificato meglio che i comportamenti siano quelli attesi, e magari se si conosce uno sviluppatore si può far fare un controllo prima di eseguire il codice ottenuto, ma i benefici che si possono ottenere sono decisamente rilevanti e non è così difficile da integrare nei propri sistemi, anche semplicemente usando script di sistema e non programmando.
Modelli decisionali AI nei processi aziendali: le opportunità
I modelli decisionali si prestano a molti impieghi, in particolare in tutte le organizzazioni si trovano persone che per parte del proprio tempo svolgono compiti decisionali del tipo che abbiamo visto, e la possibilità di scaricare la decisione sull’AI anche a partire da informazioni non strutturate come un semplice campo note offre un’opportunità di recuperare risorse umane da assegnare a compiti più rilevanti ed utili.
Partecipa alla community