C’è una domanda che molte imprese non si stanno ancora ponendo con sufficiente rigore: l’organizzazione è ancora in grado di spiegare come prende le proprie decisioni quando una parte crescente del lavoro cognitivo passa attraverso sistemi di AI generativa?
La domanda non riguarda soltanto i casi più avanzati o regolati. Riguarda il lavoro ordinario: proposte commerciali, risposte ai clienti, analisi tecniche, sintesi di riunioni, documenti interni, contenuti marketing, comparazione di fornitori, supporto alla stesura di offerte e contratti. È in questi ambiti che l’AI sta entrando davvero nei processi aziendali, spesso prima ancora che l’impresa abbia definito regole, perimetri e criteri di controllo.
Il punto di partenza non è negare i benefici. In diversi contesti, l’AI generativa produce vantaggi misurabili. Uno studio del National Bureau of Economic Research, condotto su circa 5.000 operatori di customer support in una Fortune 500 software company, ha rilevato un aumento medio della produttività del 13,8%, con benefici ancora più marcati per i lavoratori meno esperti. Il dato va letto con cautela, perché riguarda un contesto specifico e non può essere esteso automaticamente a ogni funzione aziendale; ma è sufficiente per chiarire un punto: l’ipotesi che l’AI migliori produttività e velocità operativa non è più solo narrativa, almeno in alcuni processi cognitivi ricorrenti.
Indice degli argomenti
Governance AI nelle imprese e perdita del metodo
Il problema, quindi, non è stabilire se l’AI possa rendere più efficienti. In molti casi lo fa. Il problema è capire che cosa perde l’impresa quando ottiene un output migliore senza riuscire più a ricostruire in modo affidabile il percorso che lo ha generato.
Una proposta commerciale può risultare più convincente. Un’analisi può apparire più chiara. Un documento strategico può essere scritto in modo più ordinato e persuasivo. Ma se, a posteriori, nessuno sa spiegare quali input sono stati dati al modello, quali fonti sono state utilizzate, quali alternative sono state scartate, quali assunzioni sono state mantenute e quale revisione umana ha determinato la versione finale, l’impresa ha prodotto un risultato utile ma non ha consolidato un metodo.
È qui che l’AI smette di essere soltanto uno strumento di accelerazione e diventa una questione di governance. Perché la generative AI non automatizza solo l’esecuzione: interviene nella formazione del ragionamento. Suggerisce priorità, ordina argomenti, propone formulazioni, evidenzia scenari alternativi, ristruttura testi, riformula criteri di valutazione. In altri termini, non si limita ad assistere il lavoro: entra nel modo in cui l’organizzazione seleziona, argomenta e decide.
Questa trasformazione ha un vantaggio immediato e un costo differito. Il vantaggio è evidente: più velocità, più capacità produttiva, spesso una qualità media più alta. Il costo è meno visibile: la perdita progressiva di tracciabilità cognitiva, cioè della capacità di ricostruire come si è arrivati a un risultato. E quando questa capacità si indebolisce, l’impresa non perde solo trasparenza: perde replicabilità, trasferibilità, auditabilità e controllo.
Quando il problema diventa concreto
La perdita di spiegabilità non è un tema teorico, diventa concreta almeno in quattro situazioni.
La prima riguarda la qualità organizzativa. Se un output molto efficace non viene tradotto in regole, passaggi e criteri riutilizzabili, resta un episodio. Una proposta che chiude non diventa un modello commerciale. Una buona sintesi tecnica non diventa standard operativo. Una risposta particolarmente efficace a un cliente non diventa patrimonio condiviso. L’azienda migliora il risultato nel singolo caso, ma non accumula apprendimento.
La seconda riguarda la responsabilità decisionale. Quando una scelta viene contestata, non basta affermare che “è stata rivista da una persona”. Occorre poter ricostruire quali dati sono stati impiegati, quali fonti hanno sostenuto l’output, quali controlli sono stati effettuati e dove si è collocato il giudizio umano. In assenza di questa ricostruzione, la responsabilità resta formalmente in capo a qualcuno, ma il processo che l’ha prodotta diventa opaco e quindi più fragile.
La terza riguarda la continuità operativa. Nelle organizzazioni che usano l’AI in modo informale, una parte del know-how non risiede più nei documenti o nei processi, ma nelle interazioni che alcune persone hanno imparato a costruire con i modelli: prompt, sequenze di lavoro, logiche di revisione, criteri di scarto, capacità di riconoscere un output debole o non affidabile. Se questo patrimonio resta individuale, l’uscita di una persona chiave non comporta solo perdita di produttività, ma perdita di metodo.
La quarta riguarda la scalabilità del vantaggio. Un’impresa non costruisce un vantaggio competitivo stabile perché alcuni dipendenti usano bene l’AI. Lo costruisce quando riesce a trasformare pratiche efficaci in procedure trasferibili, controllabili e adattabili. Se l’AI funziona solo “nelle mani giuste”, ma non viene strutturata, non si sta industrializzando un miglioramento: si sta accumulando dipendenza da competenze difficili da sostituire.
Il nodo non è solo normativo, ma il quadro normativo conta
Su questo punto è utile evitare due errori opposti. Il primo è pensare che il tema sia solo manageriale. Il secondo è far credere che qualsiasi uso di AI generativa ricada automaticamente negli obblighi più stringenti dell’AI Act.
Il quadro europeo adotta infatti un approccio basato sul rischio. Per i sistemi ad alto rischio, la Commissione europea richiama obblighi precisi: valutazione e mitigazione del rischio, qualità dei dati, logging per la tracciabilità dei risultati, documentazione, informazioni adeguate al deployer, supervisione umana, robustezza, cybersicurezza e accuratezza. Allo stesso tempo, la Commissione chiarisce che non tutti gli usi ordinari dell’AI generativa rientrano automaticamente nella categoria “high-risk” e che gli obblighi variano a seconda della tipologia di sistema e del rischio associato.
Per le imprese, però, il punto sostanziale è un altro: anche quando non si è formalmente nel perimetro più stringente, la direzione di marcia è chiara. Se l’AI entra in attività che incidono su offerte economiche, relazioni con clienti, supporto a decisioni organizzative, documentazione sensibile, selezione di fornitori o valutazioni interne, cresce comunque l’esigenza di poter descrivere come lo strumento è stato utilizzato, quali dati sono stati trattati, quale controllo umano è stato esercitato e quali evidenze sostengono l’output finale.
In questo senso, la spiegabilità non va letta solo come obbligo giuridico. Va letta come condizione di affidabilità operativa. È ciò che consente all’impresa di dimostrare che il risultato non dipende da un processo casuale, non verificabile o interamente opaco.
Il vero rischio: confondere efficienza con maturità
Molte organizzazioni stanno scambiando l’intensità d’uso per maturità d’adozione. Ma usare l’AI spesso non significa usarla bene. E usare l’AI bene, oggi, non significa solo ottenere output migliori: significa mantenere il controllo sul processo che li produce.
Qui si apre un equivoco tipico. Si pensa che governare l’AI significhi registrare tutto. Non è così. Un’impresa non ha bisogno di tracciare ogni interazione marginale con un modello. Ha bisogno di distinguere tra usi banali e usi rilevanti.
Se un dipendente usa l’AI per migliorare la forma di una mail interna, il rischio è limitato. Se la usa per costruire una proposta economica, sintetizzare un documento contrattuale, supportare una valutazione tecnica, rispondere a una gara o preparare un’analisi per un cliente, allora il processo dovrebbe lasciare tracce minime ma verificabili: almeno input rilevanti, fonti utilizzate, passaggi di revisione e responsabilità finale.
Questo è il punto in cui la governance smette di essere retorica e diventa architettura organizzativa. Non servono apparati burocratici ingestibili. Servono regole semplici e selettive:
sapere quali strumenti vengono usati;
sapere da chi e per quali attività;
definire quali dati possono essere inseriti;
stabilire in quali casi è obbligatoria una revisione umana qualificata;
chiarire quando prompt, fonti e versioni intermedie devono essere conservati;
trasformare le pratiche efficaci in patrimonio organizzativo e non in vantaggio privato del singolo.
È su questo terreno che il tema incrocia la più ampia questione della governance AI nelle imprese: non come strato aggiuntivo di compliance, ma come prerequisito per rendere i sistemi affidabili, industrializzabili e difendibili nel tempo. È una lettura che emerge con chiarezza anche nel dibattito più recente su Agenda Digitale, dove la governance viene descritta sempre meno come vincolo esterno e sempre più come parte integrante dell’infrastruttura AI.
Le domande che un’impresa dovrebbe porsi subito
Per capire se il problema è già presente, non servono dichiarazioni di principio. Bastano alcune domande molto concrete.
La prima: quali output rilevanti vengono oggi prodotti o co-prodotti con il supporto dell’AI?
La seconda: per questi output l’impresa è in grado di ricostruire dati in input, fonti, logica di revisione e approvazione finale?
La terza: se domani la persona che oggi usa meglio questi strumenti lasciasse l’azienda, andrebbe persa solo velocità o andrebbe perso anche il metodo?
Se le risposte sono vaghe, il problema non è tecnologico. È organizzativo.
Una nuova forma di rischio aziendale
Per anni la conoscenza d’impresa è stata associata a documenti, procedure, manuali, CRM, sistemi gestionali. Oggi una parte crescente di quella conoscenza prende forma dentro interazioni con sistemi generativi. Se tali interazioni non vengono selezionate, formalizzate e governate, l’azienda rischia un paradosso: diventare più veloce ma meno consapevole, più produttiva ma meno auditabile, più efficace nell’output ma più debole nel metodo.
Per questo la domanda iniziale non è retorica. Se oggi, dentro un’organizzazione, le decisioni migliori emergono da processi che nessuno riesce più a ricostruire con precisione, allora non c’è solo un tema di documentazione. C’è un problema di governo del lavoro cognitivo.
L’AI può aumentare efficienza, qualità e rapidità. Ma se non viene collocata dentro un sistema di regole, responsabilità e tracciabilità proporzionate al rischio, può produrre un risultato solo apparentemente virtuoso: imprese che decidono meglio e più in fretta, ma sanno sempre meno spiegare come stanno decidendo.
E un’organizzazione che non sa più spiegare il proprio modo di decidere può continuare a funzionare. Ma progressivamente smette di essere davvero sotto controllo.
Partecipa alla community