Nel corso degli ultimi anni la nozione di “agentic AI” si è imposta nel dibattito tecnologico con una rapidità che non trova ancora corrispondenza nella sua effettiva adozione all’interno dei processi bancari e assicurativi.
Un dato frequentemente citato a sostegno della portata del fenomeno riguarda la quota di traffico web globale classificata come non umana, stimata da alcune rilevazioni infrastrutturali intorno al 57%, con oscillazioni giornaliere comprese tra il 52% e il 62%*.
Si tratta di un indicatore che descrive il traffico complessivo della rete, comprensivo di crawler, scraper e bot di natura eterogenea, causato anche dall’adozione crescente di sistemi agentici. Nelle organizzazioni finanziarie la percezione dell’impatto potenziale dell’AI agentica risulta elevata, ma la maggioranza dei progetti si colloca ancora in una fase di sperimentazione o di valutazione, non di scala.
Il vincolo principale, in questa fase, risulta duplice: la maturità ancora limitata delle soluzioni tecnologiche disponibili sul mercato e la carenza di competenze interne necessarie a integrare modelli complessi.
Un’indicazione più diretta di questo scarto emerge dal confronto tra il numero medio di casi d’uso rilevato nelle diverse fasi del ciclo di vita di un progetto di intelligenza artificiale. In base alle analisi e ai dati raccolti dal Cetif Research Insight dell’Advanced Analytics & AI HUB, la Generative AI risulta la tecnologia con il numero più elevato di iniziative allo stadio di idea generation e di sperimentazione, ma un numero proporzionalmente più contenuto di casi effettivamente giunti alla piena adozione. Le tecnologie di advanced analytics e di business intelligence mostrano un profilo diverso: meno iniziative nelle fasi preliminari, ma il numero più alto in assoluto di casi realmente adottati su base stabile. Il divario tra le due curve fotografa in modo puntuale la distanza tra l’entusiasmo iniziale suscitato da una tecnologia e la sua effettiva messa a terra.
Indice degli argomenti
AI agentica nelle banche, cosa dicono i casi d’uso
I casi d’uso più rilevanti consentono di osservare, in termini generali, la distanza tra la narrazione dominante e l’adozione effettiva. In diversi istituti si registra un numero crescente di casi d’uso di intelligenza artificiale portati in produzione, distribuiti tipicamente tra personalizzazione dell’esperienza cliente, automazione documentale e sorveglianza della compliance. In altri contesti l’adozione riguarda soprattutto l’automazione conversazionale nel servizio clienti, con volumi di interazione rilevanti e un tasso di risoluzione automatica elevato, mantenendo comunque un percorso di escalation verso un operatore umano. Altre casistiche concentrano l’adozione su prevenzione delle frodi, valutazione del merito creditizio e ottimizzazione operativa, con piani dichiarati di sviluppo della componente agentica negli anni a venire. Non manca infine un approccio più circoscritto, che limita la sperimentazione a un numero ristretto di aree prioritarie sotto un’unica funzione di responsabilità operativa, sottoponendo ciascun caso d’uso a una valutazione strutturata dei rischi prima dell’adozione e mantenendo il principio per cui la decisione finale resta in ogni caso di competenza umana.
Il quadro normativo e i limiti della supervisione umana
Un sistema di intelligenza artificiale operante presso un istituto finanziario europeo è soggetto a una pluralità di fonti normative che si sovrappongono: il Regolamento (UE) 2024/1689 sull’intelligenza artificiale, articolato su soglie di classificazione del rischio e su un’applicazione differenziata nel tempo per le diverse categorie di sistemi, il Regolamento (UE) 2016/679 sulla protezione dei dati personali, il Regolamento (UE) 2022/2554 sulla resilienza operativa digitale, il Regolamento (UE) 2024/2847 sulla resilienza informatica applicabile ai fornitori software, la Direttiva (UE) 2022/2555 sulla sicurezza delle reti e dei sistemi informativi, e in via settoriale la Direttiva 2014/65/UE sui mercati degli strumenti finanziari. Ciascuna disciplina copre una porzione specifica dell’argomento, raramente coincidente con quella coperta dalle altre, e permangono aree di sovrapposizione non integralmente risolte.
L’obbligo di supervisione umana previsto dal regolamento europeo, così come l’obbligo di designazione di un supervisore, non specificano in alcun modo cosa renda tale supervisione sostanziale piuttosto che meramente formale. Un supervisore che ratifica sistematicamente ogni output prodotto dal sistema, senza mai metterlo in discussione, soddisfa la lettera della norma senza soddisfarne la finalità. Il problema si acuisce in proporzione al numero di decisioni che un singolo individuo è chiamato a supervisionare: una designazione formale che copra un volume di eventi non gestibile in modo sostanziale non costituisce controllo effettivo, e rappresenta un elemento che le funzioni di risk management dovrebbero iniziare a documentare esplicitamente, anziché considerare implicitamente soddisfatto.
Il presidio dei rischi legati agli algoritmi risulta affidato prevalentemente alla funzione di compliance, che copre il 50% dei casi osservati, mentre l’audit interno interviene nel 16% dei casi e il risk management nel 10%, entrambi nel ruolo di verificatori indipendenti; soltanto il 6% delle istituzioni dispone di una funzione realmente dedicata, un Data & AI Office distinto dalle funzioni di controllo tradizionali. Anche la collocazione gerarchica della figura più direttamente coinvolta nella gestione del dato riflette questa frammentazione: il Chief Data Officer riporta direttamente al CEO nel 27% dei casi rilevati, un indicatore ulteriore di quanto la responsabilità end-to-end resti distribuita tra più funzioni piuttosto che accentrata in un unico punto di governo.
Accountability, trasparenza decisionale e bias algoritmico
Nei contesti in cui più agenti operano in sequenza, il problema assume una configurazione ulteriore. Quando un’operazione attraversa più nodi automatizzati, la tracciabilità tecnica registra l’evento accaduto, non necessariamente la ragione per cui è accaduto, e l’attribuzione della responsabilità di una specifica decisione a un determinato agente può risultare compromessa lungo la catena. Alcuni osservatori descrivono questo fenomeno come proliferazione non presidiata degli agenti: team differenti sviluppano agenti con permessi eterogenei, in assenza di un registro centralizzato e di una responsabilità univocamente identificata. A differenza dell’uso non autorizzato di un singolo strumento generativo, in questo caso il rischio non consiste soltanto nella produzione di contenuti non controllati, ma nell’esecuzione di azioni concrete, con permessi suscettibili di estendersi in modo non previsto verso sistemi ulteriori.
Un’asimmetria analoga a quella già osservata sul piano organizzativo si riscontra nei controlli applicati ai modelli stessi. Il 57% delle istituzioni ha già introdotto un framework di controlli ex-ante sui propri use case di intelligenza artificiale, mentre il restante 43% è ancora in fase di implementazione. Sui controlli ex-post, verificati durante l’esercizio del sistema, la proporzione si inverte, con solo il 43% delle istituzioni che dichiara di averli già attivati e il 57% ancora in corso d’opera. Il bias algoritmico, in particolare, risulta l’area meno presidiata tra quelle rilevate: tra le famiglie di indicatori adottate già nella fase di progettazione, la non discriminazione si colloca al 17%, l’ultima delle quattro priorità osservate, dietro robustezza, privacy e qualità del dato. Anche sul piano del monitoraggio in esercizio la distanza rispetto ad altre dimensioni di rischio è marcata: le verifiche in continuo su bias e fairness si fermano al 40%, contro il 67% registrato sulla sicurezza informatica, mentre un ulteriore 20% delle istituzioni dichiara controlli ancora episodici, non periodici. In un ambito come quello del credit scoring o della valutazione del merito creditizio, dove una decisione discriminatoria non presidiata produce un danno diretto e immediatamente enumerabile alla persona coinvolta, questo scarto di priorità tra dimensioni di rischio meriterebbe una revisione.
Ne risulta un profilo di controllo strutturalmente più maturo nelle fasi che precedono il rilascio del modello rispetto a quelle successive, un’asimmetria che richiama da vicino la distinzione, discussa più sopra, tra un audit trail tecnicamente completo e uno effettivamente sufficiente a stabilire la responsabilità di un danno.
Governance dell’AI agentica e confini dell’autonomia
Su questo fronte, alcune organizzazioni stanno iniziando a strutturare confini espliciti all’autonomia dell’agente, articolati su quattro dimensioni: un perimetro delle azioni consentite che non deve mai eccedere i permessi dell’utente che ha attivato l’agente, soglie di impatto oltre le quali è richiesta una conferma umana esplicita prima dell’esecuzione, checkpoint temporali che sospendono automaticamente l’agente in assenza di risposta del supervisore entro un intervallo definito, e il blocco per default di qualsiasi azione irreversibile. Si tratta di criteri riconducibili a buona pratica ingegneristica più che a prescrizioni regolatorie in senso stretto, ma la loro adozione sistematica risulta, allo stato attuale, tutt’altro che diffusa; è su questo terreno che si misura la differenza tra un’organizzazione che ha effettivamente metabolizzato il tema e una che si è limitata a formalizzarlo in un documento di policy.
AI agentica nelle banche, il vantaggio passa dalla governance
L’insieme di queste evidenze restituisce un quadro sensibilmente diverso da quello proposto dalla narrazione corrente sull’intelligenza artificiale agentica. La tecnologia è disponibile e alcuni casi d’uso sono già operativi su scala rilevante, ma l’elemento che appare destinato a distinguere le organizzazioni in grado di guidare questa transizione da quelle che la subiranno consiste nella capacità di costruire, prima che l’obbligo regolatorio lo imponga sotto la minaccia di sanzioni, un sistema di governance capace di tenere insieme tre elementi che, allo stato attuale, tendono a vivere in ambiti organizzativi separati: la conformità normativa, l’infrastruttura tecnica di controllo, e la responsabilità etica di chi, in ultima istanza, assume la decisione. Alcuni dei dati raccolti nell’ambito del Research Insight qui richiamati suggeriscono che le organizzazioni finanziarie europee più avanzate su questo terreno abbiano già iniziato a trasformare tale capacità in un elemento di posizionamento competitivo, piuttosto che considerarla un mero costo di adeguamento.
*dati Cloudfare
Partecipa alla community