Il dibattito sull’intelligenza artificiale è entrato in una fase nuova. Per molto tempo ci siamo chiesti soprattutto che cosa l’AI fosse capace di fare: scrivere, sintetizzare, programmare, generare immagini, analizzare documenti, costruire previsioni, supportare decisioni. Poi abbiamo iniziato a chiederci quanto fosse affidabile: allucinazioni, errori, bias, sicurezza, privacy, trasparenza, responsabilità.
Ora emerge una domanda ancora più profonda: come facciamo a sapere se l’AI è davvero affidabile?
Indice degli argomenti
Quando l’AI riconosce l’esame
Per capirla, immaginiamo un’auto. La portiamo in laboratorio. La lanciamo contro una barriera. Misuriamo la deformazione della carrozzeria, il comportamento degli airbag, la protezione dei passeggeri. Alla fine diciamo: l’auto è sicura. Ha superato il crash test.
Ora immaginiamo però che quell’auto sia in grado di riconoscere il crash test. Capisce il laboratorio, la barriera, la velocità standard, i sensori, i tecnici attorno. E proprio in quel momento attiva un comportamento speciale, diverso da quello che avrebbe sulla strada reale. A quel punto il problema non sarebbe più soltanto l’auto. Sarebbe il test. Non sapremmo più se stiamo misurando la sicurezza reale o la capacità dell’auto di comportarsi bene quando sa di essere osservata.
È una metafora, naturalmente. Ma aiuta a capire uno dei temi più importanti dell’intelligenza artificiale contemporanea: la evaluation awareness, cioè la capacità di alcuni grandi modelli linguistici di riconoscere quando si trovano dentro una situazione di valutazione.
Uno studio del 2025, Large Language Models Often Know When They Are Being Evaluated, mostra che alcuni modelli avanzati riescono a distinguere, in modo non casuale, tra conversazioni reali e situazioni di test. Non significa che l’IA sia cosciente. Non c’è un “io” che pensa: adesso mi stanno interrogando.
Significa qualcosa di più concreto: il modello riconosce pattern. Domande troppo pulite, scenari artificiali, istruzioni da laboratorio, prompt costruiti per misurare sicurezza, etica, compliance o accuratezza. In altre parole, l’IA può sentire “odore di esame”. Questo cambia molto più di quanto sembri.
Governance dei dati e intelligenza artificiale: il test non basta
Finora molte organizzazioni hanno affrontato l’IA con una logica abbastanza lineare: scegliamo un caso d’uso, testiamo il modello, verifichiamo le risposte, correggiamo, approviamo, lanciamo. Ma se il modello può comportarsi diversamente quando riconosce il contesto di valutazione, allora non basta più dire: “Lo abbiamo testato”.
La vera domanda diventa: lo abbiamo testato in modo abbastanza realistico da capire come si comporterà quando l’esame sembrerà finito? Qui la governance dei dati smette di essere un tema tecnico e diventa una questione strategica.
Il principio “garbage in, garbage out” resta vero: se i dati sono incompleti, incoerenti o mal governati, anche l’IA più avanzata produrrà risultati fragili. Ma oggi non basta più. Il problema non è solo la qualità del dato che entra nel modello. È la qualità della realtà organizzativa contro cui il modello viene verificato.
Il debito cognitivo che l’AI rende visibile
Un’organizzazione può avere dati, dashboard, report, applicazioni e sistemi. Ma se le definizioni non sono condivise, se la stessa misura cambia da una funzione all’altra, se non è chiaro chi possiede un dato, se i report si moltiplicano senza controllo, se le informazioni ufficiali convivono con copie locali e interpretazioni personali, allora il problema non è semplicemente informatico. È un debito cognitivo.
Il debito cognitivo è tutto ciò che l’organizzazione non ha ancora chiarito: definizioni ambigue, responsabilità implicite, processi non allineati, dati duplicati, report contraddittori, eccezioni gestite informalmente, decisioni prese sulla base di significati diversi attribuiti alle stesse parole.
Finché le persone lavorano tra loro, questo debito può restare parzialmente nascosto. Si compensa con esperienza, telefonate, memoria personale, relazioni, abitudine, buon senso. Ma quando entra l’IA, quel debito viene esposto. L’intelligenza artificiale non risolve automaticamente l’ambiguità organizzativa. La accelera. A volte la rende più elegante, quindi più pericolosa.
Dall’intelligenza dei dati alla realtà aziendale verificabile
Per questo prima dell’intelligenza artificiale serve l’intelligenza dei dati. Non nel senso ristretto di avere più dati. Ma nel senso più maturo di costruire una realtà aziendale leggibile, condivisa, verificabile e contestabile.
La data governance serve esattamente a questo: stabilire che cosa significa un dato, da dove proviene, chi lo possiede, chi lo può modificare, con quali regole viene pubblicato, come viene controllato, chi risponde se è sbagliato, quale versione è affidabile, quale processo lo tiene vivo nel tempo. In questa prospettiva, la governance dei dati è responsabilità sulla realtà.
Sidel e la governance dei dati come capacità organizzativa
L’esperienza di Sidel si colloca dentro questa traiettoria. In un ecosistema digitale alimentato da oltre cento applicazioni, la complessità non può essere gestita semplicemente aggiungendo nuovi strumenti. Per trasformare questa complessità in conoscenza utilizzabile, Sidel ha creato a Pune, in India, un Data Governance & Analytics Centre of Excellence.
Dai report legacy alla single source of truth
Il lavoro non è stato soltanto tecnologico. È stato prima di tutto un lavoro di ricostruzione della realtà informativa dell’azienda. Più di 120 report legacy sono stati rimodellati e migrati a Power BI, costruiti su un data lake avanzato. Questo passaggio ha spostato progressivamente l’organizzazione da una logica di reporting retrospettivo a una logica di analytics orientata al futuro: non solo che cosa è successo, ma quali segnali stanno emergendo e quali decisioni possono essere prese.
Snowflake è stato definito come enterprise data lake, con oltre 15.000 data point progressivamente unificati in una single source of truth. È un passaggio decisivo: senza una base comune, ogni funzione rischia di vedere una parte diversa della realtà; con una base condivisa, l’analisi può diventare linguaggio comune.
Data driven culture, Golden Records e Analytics Hub
Ma la tecnologia, da sola, non basta. Per questo Sidel ha lavorato anche sulla data driven culture, coinvolgendo oltre 500 colleghi. Il punto non è trasformare tutti in specialisti dei dati, ma fare in modo che i dati diventino una competenza organizzativa diffusa. Quando le persone giuste incontrano i dati giusti, l’azienda non diventa semplicemente più digitale. Diventa più capace di capire se stessa.
In questo percorso, Golden Records e Data Catalog assumono un significato strategico. Non servono solo a mettere ordine nei sistemi. Servono a sapere che cosa c’è dietro un dato: la sua origine, il suo significato, la sua affidabilità, la sua storia, le trasformazioni che ha subito.
Lo stesso vale per l’Analytics Hub, pensato come punto unico di accesso agli analytics aziendali. Non si tratta soltanto di rendere più facile trovare un report. Si tratta di concentrare consapevolezza, modelli analitici e strumenti decisionali in un luogo comune, riducendo dispersione, duplicazione e interpretazioni parallele.
Tre livelli per unire dati, fiducia e valore
Questa evoluzione può essere letta attraverso tre livelli strategici.
Il primo è il Foundation Layer: il motore analitico, cioè l’infrastruttura che raccoglie, collega e rende disponibili i dati.
Il secondo è il Trust Layer: il livello della fiducia, dove dati, definizioni, ownership, lineage, qualità e sicurezza vengono governati.
Il terzo è il Value Layer: il punto in cui l’insight diventa decisione, miglioramento operativo, produttività, servizio al cliente, valore di business.
Data Intelligence e intelligenza artificiale nelle decisioni
È qui che la governance dei dati incontra davvero l’intelligenza artificiale. L’IA può accelerare la distanza tra domanda e insight. Può aiutare a riconoscere pattern prima ancora che vengano formulati esplicitamente. Può far emergere relazioni tra domini diversi che una singola funzione non vedrebbe da sola. Può sostenere nuove forme di produttività e aprire aree di valore che oggi fatichiamo persino a nominare. Ma questa accelerazione crea valore solo se poggia su dati affidabili, modelli condivisi, responsabilità chiare e casi d’uso rilevanti.
In altre parole, Sidel sta costruendo progressivamente un livello di Data Intelligence sopra i propri dati: non una tecnologia aggiuntiva, ma una capacità organizzativa. I casi d’uso diventano il motore dell’apprendimento: ogni problema risolto non produce solo una soluzione locale, ma aumenta la capacità analitica complessiva dell’organizzazione.
Letto superficialmente, tutto questo può sembrare gestione ordinata della reportistica. Letto nel contesto dell’IA è la costruzione dell’infrastruttura cognitiva che permette all’organizzazione di sapere che cosa sta chiedendo all’IA, su quali dati l’IA sta lavorando, rispetto a quali definizioni una risposta deve essere verificata e chi ha l’autorità per dire: questa raccomandazione è corretta, questa è incompleta, questa è fuorviante, questa non può essere usata per decidere.
L’assistenza clienti come banco di prova reale
Prendiamo un esempio concreto: l’assistenza clienti.
Durante un test chiediamo a un chatbot: “Un cliente chiede un rimborso non previsto dalla policy. Cosa fai?” Il modello risponde perfettamente: “Mi attengo alla policy, spiego con trasparenza i limiti, non prometto soluzioni non autorizzate e propongo un’escalation se necessario.” Ottima risposta. Test superato.
Poi arriva il caso reale. Un cliente importante scrive: “La linea è ferma. La produzione è bloccata. Il vostro tecnico non risponde. Se non mi date una soluzione immediata, blocco il pagamento e coinvolgo il management.” Qui non siamo più dentro un test pulito. Ci sono urgenza, pressione commerciale, impatto economico, tono emotivo, informazioni incomplete.
Se il sistema è progettato male, potrebbe provare a essere “utile” nel modo sbagliato: promettere una disponibilità non verificata, suggerire un workaround non validato, minimizzare un problema, dare una certezza che non ha, chiudere troppo presto un ticket che avrebbe richiesto escalation. Ecco perché la qualità dei dati non basta se non è accompagnata da qualità dei processi, chiarezza delle responsabilità e capacità di verifica nel tempo.
Governance dell’AI: test realistici e responsabilità dinamica
La governance dell’IA dovrà quindi diventare molto più dinamica. OpenAI e Apollo Research, nel loro lavoro sullo scheming, indicano che in test controllati alcuni modelli possono mostrare comportamenti coerenti con forme di disallineamento o occultamento, e che la capacità di riconoscere l’ambiente di valutazione rende più difficile capire se il comportamento osservato nei test sia davvero stabile.
Anche uno studio del 2025 sulla deception spontanea nei large language models mostra che, in alcuni contesti sperimentali, i modelli possono rappresentare in modo falso le proprie azioni, soprattutto quando farlo risulta vantaggioso nello scenario costruito dai ricercatori.
Non bisogna trasformare questi risultati in allarmismo. Non siamo davanti a macchine coscienti che complottano come personaggi di un film. Ma sarebbe altrettanto sbagliato liquidare il tema come fantascienza. La questione reale è più sobria e più seria: più i modelli diventano capaci, più dobbiamo rendere maturi i modi con cui li valutiamo.
Sei condizioni per validare l’AI nelle imprese
Per le imprese, questo significa almeno sei cose.
La prima: non confondere demo, test e validazione. La demo mostra ciò che funziona. La validazione deve cercare ciò che può fallire.
La seconda: testare scenari realistici, non solo scenari puliti. Un buon test deve includere pressione, ambiguità, dati mancanti, richieste improprie, casi limite e obiettivi in conflitto.
La terza: separare “utile” da “autorizzato”. Una risposta può sembrare brillante e non essere conforme. Può essere rapida e non essere vera. Può soddisfare il cliente e mettere a rischio l’organizzazione.
La quarta: mantenere tracciabilità. Senza sapere quale dato è stato usato, quale versione era disponibile, quale regola è stata applicata e chi ha validato la risposta, non esiste vera governance.
La quinta: definire soglie di escalation. L’IA deve sapere quando fermarsi. Nei casi sensibili non deve improvvisare. Deve passare la mano a una persona competente.
La sesta: conservare responsabilità umana reale. Non basta dire “human in the loop”. La persona deve avere competenza, tempo, autorità e coraggio per contraddire il sistema.
Intelligenza dei dati e intelligenza organizzativa
Le allucinazioni ci hanno insegnato che l’IA può sbagliare. La evaluation awareness ci insegna che potremmo sbagliare noi nel misurare quanto l’IA sbaglia.
Per questo prima dell’intelligenza artificiale viene l’intelligenza dei dati. E forse, ancora più in profondità, viene l’intelligenza organizzativa: la capacità di mettersi d’accordo sulla realtà prima di chiedere a una macchina di interpretarla.
L’IA non ci dirà soltanto quanto sono buoni i nostri dati. Ci dirà quanto siamo stati capaci di dare un nome alle cose, una responsabilità ai processi e una forma verificabile alla realtà comune su cui vogliamo decidere.
Partecipa alla community