Scoring di vulnerabilità AI, il rischio entra nel board

L’intelligenza artificiale è ormai nei processi aziendali: analizza dati, seleziona il personale, valuta la clientela, supporta la compliance e le decisioni manageriali. Il suo rischio non resta confinato alla funzione informatica, perché tocca strategia, responsabilità, reputazione e governo societario.

Tre in particolare le vulnerabilità da presidiare:

• la fuoriuscita di dati sensibili (leakage), che espone non solo dati personali, ma segreti commerciali, strategie e documenti legali immessi in sistemi non presidiati;
• la distorsione sistematica (bias), che riproduce i pregiudizi dei dati storici generando discriminazioni ad esempio nelle assunzioni o nel credito;
• l’allucinazione, che produce contenuti falsi ma plausibili e che, entrando senza verifica in una decisione, trasforma l’errore tecnologico in errore organizzativo.

Scoring di vulnerabilità AI tra leakage, bias e allucinazioni

Lo scoring di vulnerabilità dell’AI misura quanto un singolo caso d’uso sia esposto a questi rischi e quanto i controlli riescano ad attenuarlo. Non esiste ancora uno standard universalmente riconosciuto per valutare le vulnerabilità dei sistemi di AI. Tuttavia, OWASP sta sviluppando un modello, ancora in evoluzione, denominato AIVSS (Artificial Intelligence Vulnerability Scoring System) come possibile metrica tecnica per la valutazione delle vulnerabilità AI. Si tratta di un sistema di punteggio da 0 a 10 che adatta il tradizionale CVSS (Common Vulnerability Scoring System) alle caratteristiche specifiche dell’AI, in particolare alla sua imprevedibilità.

In assenza di uno standard maturo, uno scoring serio deve combinare tre dimensioni: la natura del caso d’uso (sensibilità dei dati, finalità, impatto sugli interessati), il comportamento del sistema (autonomia, comprensibilità degli output, esposizione a leakage, probabilità di distorsione, affidabilità degli output) e la qualità dei presidi (supervisione umana, tracciabilità, robustezza dei controlli, conformità), al fine di distinguere i casi tollerabili da quelli che impongono presidi rafforzati o sospensione.

Come costruire uno scoring caso per caso

Lo scoring va effettuato caso per caso, valutando il rischio. Per ciascun impiego dell’AI si stimano due variabili: la probabilità dell’evento (bassa, media o alta) e il relativo impatto (basso, medio o alto). La combinazione delle due variabili genera un punteggio, ad es. su una scala da 1 a 10, che deve poi essere corretto alla luce dei controlli già esistenti.

Questa valutazione dovrebbe collocarsi entro una cornice metodologica riconoscibile, come il NIST AI Risk Management Framework e lo standard ISO/IEC 42001:2023, uno standard internazionale certificabile per un sistema di gestione dell’intelligenza artificiale. Lo strumento operativo è il registro dei rischi AI dove ogni caso d’uso viene censito in una riga dedicata, indicando almeno: categoria, descrizione, fonte della minaccia, probabilità, impatto, punteggio, misure di mitigazione, responsabile, stato e data di revisione.

Il punteggio non deve essere statico, ma deve essere riesaminato periodicamente e aggiornato ogni volta che cambiano il modello, i dati, le minacce, i controlli o il quadro normativo. È questo il documento che l’amministratore deve poter chiedere, leggere e comprendere.

Scoring di vulnerabilità AI e obblighi di governance

Sul piano giuridico, la misurazione del rischio non è facoltativa: è il presupposto di specifici obblighi di governance. Il GDPR si applica quando l’uso dell’AI comporta trattamenti di dati personali; l’AI Act adotta un approccio basato sul rischio e prevede obblighi differenziati in funzione della classificazione del sistema; la NIS2, recepita dal d.lgs. 138/2024, rafforza gli obblighi di gestione del rischio cyber per i soggetti nel perimetro della direttiva e attribuisce agli organi di amministrazione e direttivi responsabilità di supervisione delle misure di gestione del rischio per tali soggetti; per il settore finanziario, DORA impone obblighi di resilienza operativa digitale. A livello nazionale, la legge n. 132/2025 rafforza questo quadro, introducendo, tra l’altro, obblighi di trasparenza e correttezza nell’uso dell’AI nei contesti professionali disciplinati dalla legge.

Le responsabilità del board

Le responsabilità del board discendono da questo quadro e si articolano su tre piani.

Scelte strategiche e rischio accettabile

La responsabilità strategica impone al consiglio di definire il livello di rischio AI accettabile, collegando l’adozione della tecnologia alla strategia industriale, al patrimonio informativo e alla fiducia del mercato. Il board deve quindi stabilire finalità, limiti, dati utilizzabili e presidi necessari, valutando non solo il valore atteso, ma anche i rischi di perdita di controllo, dipendenza da terzi, esposizione regolatoria e danno reputazionale. L’AI è una scelta di governance, non una mera opzione tecnologica.

Flussi informativi e dovere di agire informato

La responsabilità di governance trova fondamento nell’art. 2086, comma 2, c.c. sugli assetti organizzativi, amministrativi e contabili adeguati e nell’art. 2381, comma 6, c.c. sul dovere di agire informato. Il consiglio deve quindi esigere che lo scoring sia inserito in un flusso informativo periodico: report trimestrali su rischi AI e incidenti, analisi semestrali dei trend e una sintesi annuale su conformità, presidi e investimenti. Cruscotti e mappe di calore servono a tradurre il punteggio in informazioni leggibili e utilizzabili dal board. La ricezione periodica di queste sintesi consente al consiglio di documentare l’effettivo esercizio del dovere di agire in modo informato.

Presidi verificabili e supervisione umana

La responsabilità nella gestione del rischio, presidiata dallo standard di diligenza dell’art. 2392 c.c., impone che lo scoring non resti una classificazione astratta, ma si traduca in azioni verificabili. A ciascuna vulnerabilità devono corrispondere un presidio definito e un responsabile: dalla prevenzione del leakage alla gestione degli accessi, fino alla valutazione dei fornitori terzi. La supervisione umana, quindi, deve essere effettiva, competente e documentata, non meramente formale.

Scoring di vulnerabilità AI come questione di governo societario

In conclusione, la vulnerabilità dell’AI non è un problema di tecnologia, ma è una questione di governo societario. Un consiglio maturo non chiede se l’azienda usa l’AI: chiede dove la usa, con quali dati, con quale autonomia, con quale punteggio di vulnerabilità e con quale responsabilità in caso di errore. Chi sa rispondere governa il rischio; chi non sa rispondere lo sta già correndo.