intelligenza artificiale

L’AI entra in banca: i nodi di governance e competenze



Indirizzo copiato

L’intelligenza artificiale rivoluziona il settore bancario, cambiando il paradigma operativo e gestionale. La gestione dei dati e degli algoritmi, il ruolo del Chief Data Officer e l’emergere di tecnologie come la Generative AI e la AI conversazionale delineano il futuro della banca digitale

Pubblicato il 2 gen 2024

Chiara Frigerio

Segretario Generale di Cetif e Docente dell’Università Cattolica del Sacro Cuore



Close,Up,Of,Businessman,Hands,Holding,Abstract,Glowing,Cloud,Computing

L‘intelligenza artificiale sta rivoluzionando il settore bancario, imponendo un cambio di paradigma nelle modalità operative e gestionali delle istituzioni finanziarie. Questa trasformazione non è esente da sfide, in primis quella della governance dell’AI che ruota attorno alla gestione dei dati e degli algoritmi.

In Italia, il monitoraggio degli algoritmi e dei controlli rappresenta una realtà in continua evoluzione e necessita di competenze specifiche per essere gestito efficacemente. La figura del Chief Data Officer emerge dunque con rinnovata importanza nell’era dell’AI, diventando un punto di riferimento chiave nella definizione delle strategie aziendali.

Ma l’innovazione non si ferma qui: l’emergere di tecnologie come la Generative AI e la AI conversazionale aprono nuovi orizzonti per il futuro del settore bancario, richiedendo competenze sempre più specializzate ed avanzate.

Istituzioni finanziarie e nuove tecnologie

L’introduzione delle nuove tecnologie nelle istituzioni finanziarie ha avuto effetti dirompenti e continuerà a portare importanti cambiamenti negli anni a venire, il merito sarà soprattutto delle nuove tecnologie di AI.

Questi cambiamenti non solo innoveranno il modo di fare business delle banche ma cambierà profondamente anche la loro organizzazione del lavoro. Gli strumenti di AI, infatti, sembrerebbero in grado di estendere le capacità umane mediante la loro abilità di comprensione, apprendimento, e capacità di ragionare.

Non per niente, è in corso un forte dibattito sui ruoli che l’AI avrà sul luogo di lavoro nel prossimo futuro. Alcuni critici dell’AI ipotizzano che la macchina sostituirà l’uomo, mentre altri credono che l’AI, ancora per molto, affiancherà gli attuali mestieri in banca. C’è però un chiaro intendimento da parte di queste visioni opposte: questa nuova innovazione dirompente cambierà le dinamiche lavorative e gli equilibri sul luogo di lavoro, anche nel settore finanziario.

Per capire in che cosa si possono sostanziare questi cambiamenti, conviene fare un passo indietro e studiare gli approcci all’AI delle istituzioni finanziarie.

L’impatto dell’AI sulle banche: un cambio di paradigma

All’inizio del boom dell’AI, l’approccio più utilizzato dalle istituzioni finanziarie era modello-centrico. Cioè, l’obiettivo principale era quello di migliorare le prestazioni del modello di AI, ottimizzando i parametri di apprendimento.

Il successo di un modello era percepito e misurato sia dal design dell’algoritmo sia dalla sofisticazione del modello effettivo. Questo approccio offriva poche opportunità per revisionare e migliorare sistematicamente e progressivamente la qualità dei dati.

In breve tempo, però, la democratizzazione dei modelli di AI sia all’interno degli intermediari sia all’esterno tramite le community open-source, ha permesso l’accessibilità a modelli avanzati e a una moltitudine di provider di AI anche nel mondo Fintech.

Le istituzioni finanziarie hanno allora compreso che, in questo processo di democratizzazione degli algoritmi, la vera fonte di vantaggio competitivo proviene dai dati che addestravano sull’algoritmo.

Si è allora cominciato ad adottare un approccio data centrico basato su un management proattivo delle problematiche relative all’uso del dato (non dimentichiamoci anche del ruolo della normativa che ha dato una notevole spinta in questa prospettiva).

Monitoraggio degli algoritmi e controlli: lo stato dell’arte nel panorama italiano

Il presupposto fondamentale di questo approccio è che le applicazioni di AI siano dinamiche, così come i dataset che le addestrano e monitorano. Ciò si traduce in continua evoluzione dell’architettura IT su cui i sistemi di AI si basano. L’efficacia del sistema di intelligenza artificiale viene quindi valutata sulla base sia delle prestazioni del modello sia della qualità dei suoi dati. I dati costituiscono il vero fondamento dei sistemi di intelligenza artificiale in generale e il loro trattamento richiede alti livelli di responsabilità e attenzione poiché scelte errate sull’uso dei dati possono avere conseguenze etiche e sociali molto rilevanti. Infatti, senza un governo del dato, le decisioni degli strumenti di AI potrebbero violare la privacy, discriminare, manipolare e disinformare. Pertanto, l’intero ciclo di vita del dato e l’algoritmo dovrebbe essere soggetto a una governance e monitoraggio efficace.

Riportando i dati sul monitoraggio dell’AI nel panorama delle banche e assicurazioni italiane, si osserva che il 75% delle istituzioni ha già predisposto controlli di secondo e terzo livello, principalmente in capo all’area Audit, per il monitoraggio degli algoritmi mentre solo il 25% non ha ancora formalizzato i meccanismi di controllo degli algoritmi. In termini di frequenza dei controlli sugli algoritmi, invece, si può osservare che più del 50% delle istituzioni decide di effettuare controlli su base continuativa sulla discriminazione e performance dell’AI. In ambito explainability, invece, solo il 38% delle istituzioni adotta un approccio continuo di monitoraggio, mentre un ulteriore 35%, che si è dotato di modelli più semplici, ritiene sufficiente di effettuare controlli su base annuale. Tutto il settore finanziario riconosce, tuttavia, il grande valore dei controlli ex ante, in fase di sviluppo degli algoritmi, sebbene solo un numero minore d’istituzioni ritenga questi controlli come sufficienti durante il ciclo di vita dell’algoritmo.

Il ruolo del Chief Data Office nell’era dell’AI

Anche il Chief Data Office sta allora adottando una profonda ridefinizione dei ruoli e competenze al suo interno. Accanto ai Data Governance specialist (54% della forza lavoro nell’area del CDO), in quest’area figurano sempre più Business e Data Translator (10%), e i Data Scientist (20%). I primi, sono figure con background di business e hanno una comprensione astratta delle capacità dell’AI.

Pertanto, possono facilitare la scoperta dei casi d’uso e agire come intermediari tra le funzioni aziendali e gli specialisti dell’AI. A loro volta, i Data scientist sono impiegati a supporto delle soluzioni di AI. Appaiono in quest’area anche specialisti di Ethics e Compliance per il governo dei controlli ex ante e per il monitoraggio di primo livello (1%).

Anche i team tecnici dedicati all’attività di training e sviluppo degli algoritmi di AI, integrano competenze sempre più diverse tra loro: oltre ai data scientist, ML&robot engineers, prompt engineers, computer vision specialists, deep learning & NPL scientists sono tutte figure tecniche che possono ritrovarsi insieme a sviluppare algoritmi di AI, pur avendo background molto diversi tra loro.

Le nuove competenze richieste dall’introduzione dell’AI

Oltre all’emergere di nuove figure derivanti dall’introduzione dell’AI, ci sarà anche una forte esigenza di procedere con programmi di upskilling dei dipendenti già presenti, anche al di fuori dei team tecnici. In primis, c’è la necessità di lavorare sull’AI awareness perché le risorse acquisiscano una comprensione astratta delle funzioni dell’AI. Questa consapevolezza consente loro di concepire l’AI come uno strumento versatile e di grande potenziale nel loro contesto specifico.

Ad esempio, i dipendenti riconoscono l’importanza di un dato di alta qualità come prerequisito per un risultato di AI affidabile. Inoltre, in un mondo in cui i dipendenti e le tecnologie andranno a collaborare sempre più a stretto contatto, anche le skills digitali diventeranno sempre più centrali. L’intero ecosistema finanziario, infatti, si sta spostando sempre più verso una realtà ‘phygital’ (fisico più digitale) e man mano che i processi e le interazioni bancarie acquisiscono livelli di digitalizzazione maggiori, c’è bisogno di acquisire sempre più competenze digitali.

Generative AI e AI conversazionale: le prospettive future

Infine, l’avvento della Generative AI e l’AI conversazionale stanno accelerando ancora di più questi cambiamenti all’interno delle istituzioni finanziarie. Sul fronte competenze queste tecnologie stanno spostando ulteriormente i confini del cambiamento e si discuterà non soltanto di nuove competenze IT, ma anche di nuove capacità d’interazione e critical-thinking per tutte le varie aree della banca. Comunque, visti gli ordini di grandezza, è ancora presto per dettare previsioni. Quel che è certo è che il 2024 sarà un anno di sperimentazioni per alcuni e d’implementazione sostenuta per altri che richiederà di dotarsi di strategie di sviluppo e governo chiare.

EU Stories - La coesione innova l'Italia

Tutti
Social
Iniziative
Video
Analisi
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati

Articolo 1 di 4