Explainability AI, così migliora trasparenza e compliance finanziaria

L’explainability dei modelli di IA è ampiamente dibattuta sia in ambito accademico che industriale, e recentemente sono state proposte diverse tecniche per affrontarlo.

Il concetto di interpretability-by-design, ad esempio, è una tecnica basata sull’idea che la spiegabilità debba essere una priorità nella progettazione degli algoritmi di IA, piuttosto che un problema da affrontare a posteriori. Sono state inoltre sviluppate tecniche altamente efficaci per identificare quali caratteristiche di un dato abbiano contribuito maggiormente alla decisione presa da un modello di IA.

Il contesto

In ambienti professionali ad alto rischio come i servizi finanziari, ma anche quelli medici e legali, caratteristiche come logica, equità e responsabilità non sono solo auspicabili, ma spesso obbligatorie per restare compliant con le normative. Sono ambiti in cui dobbiamo citare fonti affidabili per sostenere le nostre argomentazioni, se vogliamo dimostrare convinzione nelle nostre opinioni. E se abbiamo bisogno di una motivazione ineccepibile per formulare una raccomandazione, è necessario mettere in fila i punti a sostegno confrontandoli con le alternative, così da costruire la tesi più solida e obiettiva possibile.

Ovviamente, guai se qualcosa va storto: nel migliore dei casi dovremmo comprendere il processo per evitare che si ripeta; nel peggiore, è necessario qualcuno a cui attribuire la colpa. Questo vale per il processo decisionale umano e si estende in modo altrettanto ampio agli strumenti che utilizzano l’intelligenza artificiale.

Explainability AI e linguaggio comune nella gestione patrimoniale

Se chiedete a un asset manager cosa lo preoccupa dell’integrazione dell’AI, tre risposte ricorrono con regolarità: il problema della black box, ossia la difficoltà ad agire su un segnale che non è in grado di spiegare a un cliente o a un regolatore; la qualità dei dati, in secondo luogo; infine, i dubbi legati alla compliance.

L’explainability funge da linguaggio comune tra diverse componenti dell’azienda e i partner con cui collabora: dai team quantitativi e di investimento fino alle funzioni di rischio e a quelle a contatto con il cliente. A seconda del ruolo e dell’area di responsabilità, variano i diversi elementi che contribuiscono a questa “chiarezza” nel processo, ma tutti riducono le frizioni all’interno di qualsiasi attività di wealth o investment management.

Le esigenze di investimento, compliance e clienti

I comitati di investimento, ad esempio, hanno bisogno di comprendere la logica dietro qualsiasi insight generato dall’AI; i team di compliance hanno bisogno di evidenze e auditability per rafforzare la propria tracciabilità documentale; le funzioni di vendita, marketing e relazione con il cliente hanno bisogno di spiegazioni chiare di ciò che stanno comunicando a clienti e advisor.

AI spiegabile e rischi dell’approccio black box

Molto prima dell’attuale AI generativa, il trading algoritmico e gli hedge fund quantitativi conobbero un’enorme diffusione nel periodo che precedette la crisi finanziaria. Quando molti subirono ingenti liquidazioni, emerse quante strategie concorrenti detenessero posizioni identiche. La Quant Crisis dell’agosto 2007 (e altre turbolenze di mercato verificatesi da allora) mise in luce la necessità di maggiore trasparenza ed è una delle ragioni per cui gli investitori divennero cauti nel fare eccessivo affidamento sulle cosiddette strategie ‘black box’.

Naturalmente, quando le cose vanno bene, si presta meno attenzione a quanto sia ben articolata la mitigazione del rischio. La maggior parte degli investitori accoglie tipicamente una solida sovraperformance con un esame meno insistente su come sia stata ottenuta. Ma quando si verifica una sottoperformance, l’explainability diventa essenziale per costruire fiducia, documentare il processo decisionale e dimostrare i driver su cui si fondano gli output di un modello.

Explainability AI: comprendere non solo cosa, ma perché

È importante comprendere che i segnali che tipicamente informano le decisioni non sono statici né prevedibili in modo affidabile. Gli esiti (e quindi le ragioni che vi stanno dietro) sono in balìa di molteplici fattori, quindi è importante non pensare solo a cosa sta facendo un modello, ma a come sta evolvendo, a quali segnali sta inviando il mercato e a come un modello di AI sta imparando da tutti questi input.

In un mondo in cui la trasparenza informativa e la disclosure costituiscono ormai una parte essenziale di qualsiasi scambio di valore nei servizi finanziari, è cruciale non solo comprendere cosa l’AI ci sta dicendo di fare, ma perché ha fornito l’opzione che ha fornito. Non limitarsi a dare una previsione, ma fare luce sui driver dietro la previsione per aiutarci a capire come vi è arrivata è rassicurante, se non altro.

AI spiegabile tra discrezionalità umana e trasparenza

Un gestore di portafoglio umano potrebbe prediligere un asset per via della valutazione, del momentum o delle condizioni macroeconomiche. Ciò può dipendere da fattori interni come il suo stile di gestione, o da fattori esterni, come le condizioni di mercato. Cosa ha determinato queste preferenze? Fondamentali, sentiment, indicatori tecnici o una combinazione di questi? Allo stesso modo, l’AI utilizzerà le medesime informazioni per prendere le proprie decisioni, ma spesso manca della trasparenza che ce lo esplicita. I suoi modelli potrebbero essere molto accurati ma, di nuovo, lo stigma della ‘black box’ persiste ancora in alcuni ambienti.

L’explainability fornisce inoltre un quadro per giustificare sovra e sottoperformance radicato nei fatti e completamente trasparente. Allo stesso modo in cui i membri di un team di investimento potrebbero rivedere la logica alla base di un’operazione dopo averne valutato l’esito, l’AI spiegabile può rivelare il grado di influenza che diverse variabili hanno avuto su un modello in determinati momenti, come sono cambiate e gli effetti, se presenti, sul modello. Questo crea un audit trail strutturato e accurato nel tempo, anziché affidarsi solo alle note dei trader o a sintesi retrospettive, che possono essere condizionate dal senno di poi.

Explainability nel wealth management: dal segnale alla decisione

Tutte queste distinzioni sono importanti perché quanto più un professionista degli investimenti comprende la logica di un modello e il ragionamento dietro le sue allocazioni o segnali, tanto più esso diventa familiare. Quella familiarità approfondirà la comprensione degli strumenti utilizzati. A sua volta, ciò consentirà loro di mettere in discussione il modello con maggiore fiducia, valutare come i segnali si confrontino con le proprie view di mercato e decidere quanta fiducia riporre nell’output. Nel wealth management, l’explainability trasforma quindi l’AI da motore di generazione di segnali in uno strumento di supporto decisionale più trasparente.