Nelle attività di natura tecnico-ingegneristica (e non solo) quella che comunemente si chiama “intuizione” è guardata con sospetto: nella sua accezione più comune l’intuizione è soggettiva (ergo varia tra individui), irrazionale (ergo difficile da spiegare con un processo strutturato e logico) e quasi creativa, quindi intrinsecamente estranea a un contesto tecnico.
Non a caso, i sistemi di risk rating e risk grading adottati nelle organizzazioni di risk engineering nascono per ridurre la discrezionalità individuale e rendere le valutazioni confrontabili e tracciabili.
Indice degli argomenti
L’intuizione nel risk engineering property
Eppure, chi opera da anni su rischi property complessi sa che alcune valutazioni emergono prima ancora dell’analisi formale. Configurazioni impiantistiche particolari (ad esempio le modifiche temporanee che diventano definitive, o le “ri-destinazioni” d’uso di aree nate per scopi diversi), modalità di gestione del rischio (ad esempio l’adesione “acritica” ai dettami normativi, senza invece cogliere lo spirito delle norme, ovvero gli obiettivi specifici della tutela), e, più in generale, scelte tecniche e organizzative, producono segnali più o meno deboli che, nel loro insieme, attivano un campanello d’allarme e orientano verso un profilo di rischio più critico.
Non si parla qui di violazioni di norme, o situazioni di pericolo palesi: si parla di elementi e caratteristiche della propensione al rischio di una organizzazione che, presi singolarmente, possono apparire accettabili, ma che “richiamano” (e questo termine non è scelto a caso), spesso in modo vago e non pienamente trasparente neppure all’osservatore stesso, configurazioni già osservate altrove.
Nel contesto dei rischi property queste valutazioni preliminari raramente si connettono a dati storici strutturati. In QBE, come in molte altre organizzazioni di risk engineering, esse costituiscono piuttosto un patrimonio esperto distribuito, che orienta la profondità degli approfondimenti successivi, la richiesta di informazioni aggiuntive quando non, appunto, una postura prudenziale con cui il rischio viene letto.
Pattern recognition e giudizio esperto
Gary Klein, psicologo cognitivo statunitense e pioniere del Naturalistic Decision Making, ha descritto questo fenomeno come pattern recognition: l’intuizione dell’esperto non è istinto, ma riconoscimento rapido di configurazioni già incontrate in contesti simili, dove il feedback dell’esperienza ha insegnato cosa conta davvero. Lo stesso meccanismo è riscontrabile in ambiti diversi, dalla diagnostica medica alla valutazione dell’autenticità di un’opera d’arte, quando l’esperto è chiamato a giudicare situazioni complesse in condizioni di informazione incompleta.
Questa prospettiva diventa particolarmente interessante oggi, nel momento in cui anche i sistemi di intelligenza artificiale vengono talvolta descritti come “intuitivi”.
L’intelligenza artificiale nel risk engineering property
I modelli linguistici di grandi dimensioni (LLM) operano anch’essi attraverso una forma di pattern recognition, ma su un piano radicalmente diverso: non possono riconoscere configurazioni nel mondo fisico, bensì regolarità nel linguaggio, nelle sequenze di parole e nei modi in cui i problemi vengono raccontati. Si tratta di un’intelligenza che lavora sul racconto della realtà, non sulla realtà stessa.
Questo rende tali strumenti potenzialmente utili per attività come:
- l’organizzazione e la sintesi di informazioni complesse,
- l’esplorazione strutturata di scenari,
- la costruzione di checklist e, soprattutto
- la verifica della “pulizia”, del rigore, di un ragionamento complesso in un contesto di incertezza.
Al tempo stesso, espone gli LLM a fragilità specifiche. Tra queste, la sycophancy, ovvero la tendenza a confermare le ipotesi dell’utente, rinforzandone convinzioni e bias, e le cosiddette allucinazioni, ossia la produzione di contenuti coerenti e plausibili ma non fondati su evidenza.
LLM come supporto al ragionamento, non come sistemi decisionali
Qui emerge una distinzione cruciale per chi si occupa di rischio puro: allo stato attuale, strumenti basati su LLM non trovano impiego come sistemi decisionali nell’operatività del risk engineering property di QBE. Il loro potenziale interesse risiede piuttosto in un utilizzo controllato come supporto al ragionamento: strumenti capaci di mettere sotto stress il processo cognitivo dell’esperto, senza sostituirlo.
L’intuizione umana, infatti, può essere distorta da eccesso di fiducia, attenzione selettiva o ancoraggio.
L’intelligenza artificiale può invece sbagliare riempiendo i vuoti informativi con coerenza narrativa invece che con evidenza.
Si tratta di “bugs” (nel senso di vulnerabilità cognitive) di natura diversa e, proprio per questo, potenzialmente complementari: se integrati correttamente, possono compensarsi.
Premortem, scenari alternativi e rischio property
Provando dunque ad immaginare un possibile scenario di utilizzo proficuo dell’intelligenza artificiale, a parere di chi scrive, e nel contesto dell’analisi di rischio property, essa non va intesa come “lo” strumento decisionale, ma come supporto al ragionamento critico: uno strumento per costruire premortem (esercizio analitico che assume l’evento incidentale come già avvenuto e ricostruisce a ritroso le cause e le vulnerabilità che lo hanno reso possibile) credibili, esplorare scenari alternativi e verificare ciò che potrebbe essere stato trascurato.
È plausibile che, in futuro, strumenti di questo tipo diventino sempre più presenti come “componenti” dei processi decisionali. Il loro valore, tuttavia, non risiederebbe nella previsione dell’evento, ma nella capacità di rendere esplicite le ipotesi implicite, separare i fatti dalle interpretazioni e mettere sistematicamente alla prova il giudizio umano. Un’esigenza particolarmente critica in un ambito, come quello property, in cui il rischio non offre upside ma solo perdite potenziali e in cui l’errore si manifesta sempre ex post, a costo elevato.
Intuizione umana e intelligenza artificiale verificabile
L’intuizione dell’esperto resta quindi essenziale per orientare la lettura, valutare la rilevanza fisica e causale dei segnali e assumersi la responsabilità del giudizio finale. Nessun modello linguistico può sostituirla.
Ma proprio per la sua natura frammentata e, sì, talvolta confusa, l’intuizione necessita di essere esercitata con opportune reti di sicurezza.
In questo contesto, innovare non significa adottare l’ennesima tecnologia, ma disegnare processi decisionali che rendano il giudizio umano più robusto, mettendolo alla prova invece di sostituirlo.
Perché l’intelligenza artificiale non rende superflua l’intuizione umana, ma la rende verificabile. O, se si vuole usare un termine più nobile: falsificabile.
Partecipa alla community