L’AI usata di nascosto espone i dati aziendali: come governare il rischio

La Shadow AI entra nelle aziende spesso senza autorizzazione, attraverso strumenti usati dai dipendenti per lavorare più velocemente. Ma dietro produttività e immediatezza si aprono rischi concreti per dati, sicurezza, conformità normativa e governance dell’intelligenza artificiale.

Di cosa parliamo quando parliamo di shadow AI

Con “Shadow AI” (o “AI ombra”) si indica l’utilizzo di strumenti, modelli e servizi di intelligenza artificiale da parte dei dipendenti e collaboratori senza che l’organizzazione ne sia a conoscenza o li abbia approvati. Secondo la definizione più comune, si tratta dell’uso non autorizzato di applicazioni o piattaforme AI da parte di utenti finali, al di fuori di qualsiasi supervisione aziendale.

Il fenomeno può manifestarsi in modi molto diversi. Si passa da un singolo dipendente che incolla codice proprietario in ChatGPT per farsi aiutare a scrivere una funzione, fino a interi reparti che adottano plugin AI non approvati per gestire dati sensibili dei clienti, come riportano diverse analisi del settore. Un addetto marketing che installa un’estensione del browser per generare automaticamente email di invio a potenziali clienti i cui dati sono disponibili nel CRM, oppure il responsabile del controllo di gestione che usa un account personale di ChatGPT per generare analisi statistiche e confronti di trend e di tendenza sono esempi tipici.

Shadow AI e differenze con la Shadow IT

La Shadow AI viene spesso descritta come un’evoluzione della più nota “Shadow IT” – l’uso di software, hardware o servizi cloud non autorizzati – ma con una differenza sostanziale – mentre la Shadow IT riguarda principalmente dove risiedono i dati, sia pure per un tempo limitato, la Shadow AI comporta che questi dati potenzialmente possono essere elaborati, utilizzati e conservati dai modelli stessi. Quando un dipendente carica un documento su un servizio cloud non autorizzato si crea un problema di localizzazione dei dati, comunque contenibile; ma se lo stesso documento viene incollato in un chatbot AI pubblico, quel contenuto può finire incorporato nei parametri del modello, da cui non è possibile “cancellarlo” come si farebbe con un file su un server.

Quanto è diffuso il fenomeno

Il fenomeno è molto più diffuso di quanto non sembri e in continua crescita, considerando: la gratuità/ridotto costo di questi strumenti, la facilità con la quale i collaboratori possono usarli e l’immediata disponibilità, l’aumento di produttività che generano e la difficoltà di rilevarne un uso non consentito. Tale valutazione è testimoniata dai dati raccolti ed elaborati dalle principali società di sicurezza informatica che mostrano una crescita costante e molto rapida.

I pericoli principali della Shadow AI

I principali pericoli relativi all’utilizzo della Shadow AI sono riconducibili a quanto di seguito indicato.

• Fuga di dati sensibili – Il rischio più citato, e immediatamente percepibile, è la perdita di controllo su informazioni riservate. Per citare qualche esempio: codice proprietario, dati dei clienti e dei partner, dati personali dei dipendenti e degli utenti, contratti o segreti industriali possono finire su ambienti esterni non controllati dall’azienda, con conseguenze potenzialmente irreversibili, dato che un modello linguistico può incorporare il contenuto nei propri parametri.
• Violazioni normative e requisiti contrattuali – Rischi concreti di non conformità a normative come il GDPR, alla NIS 2, alla ISO/IEC 27001:2022, ISO/IEC 42001:2023 oltre a possibili violazioni delle politiche interne aziendali o accordi contrattuali sottoscritti con clienti e committenti in merito alla tutela dei dati affidati alla singola organizzazione.
• Limitazioni intrinseche degli strumenti di intelligenza artificiale non ottimizzati – Rischi concreti di generazione di output non ottimali o non realistici dovuti all’assenza di un contesto specifico relativo all’organizzazione, con possibili ripercussioni sull’efficacia decisionale e sull’allineamento agli obiettivi aziendali.
• Contaminazione della supply chain software – È oramai assodato che codice generato da AI e integrato nel software aziendale senza revisione di sicurezza può introdurre vulnerabilità, problemi di licenza o errori logici, soprattutto quando i team di sviluppo usano assistenti di coding non autorizzati che bypassano i normali processi di revisione.
• Superficie di attacco ampliata – I dati trapelati tramite Shadow AI possono diventare materiale grezzo per campagne di phishing mirate, attacchi con deepfake e tecniche di social engineering costruite con dettagli che rendono le truffe molto più credibili e personalizzate.
• Danni reputazionali e finanziari – L’entità economica complessiva dei danni causati dalla Shadow AI è molto difficile da quantificare con precisione, il potenziale di danno viene descritto, nella letteratura specializzata, come in crescita costante.
• Le minacce derivanti dagli agenti AI – Infine, autorevoli fonti avvertono che la diffusione di agenti AI autonomi, capaci di eseguire compiti in modo indipendente e interconnesso con altri sistemi, sta creando, e creerà in futuro in modo ancora più rilevante, un profilo di rischio ancora più elevato e una superficie di attacco maggiore rispetto alla AI generativa “tradizionale”.

Le misure di contrasto

Tutte le fonti analizzate concordano su un punto chiave; non è possibile bloccare semplicemente l’uso della AI; si tratta di una soluzione inefficace. Le strategie di mitigazione più raccomandate includono quelle di seguito elencate.

• Visibilità e rilevamento – Fonti autorevoli suggeriscono di partire da strumenti di scoperta SaaS, log delle estensioni del browser e dati degli endpoint, monitorando i prompt inviati a modelli pubblici e le connessioni API verso modelli esterni, per stabilire una base di partenza da cui i team di sicurezza possano lavorare. Strumenti che prevedono il monitoraggio del traffico di rete e delle query devono avere come esclusiva finalità la sicurezza delle informazioni, non il controllo del lavoratore.
• Controlli di accesso basati sui ruoli – Limitare l’accesso agli strumenti di AI in base alla funzione lavorativa riduce l’esposizione non necessaria e al contempo bloccare a livelli di rete gli endpoint dei modelli pubblici più a rischio – in particolare i prodotti gratuiti con politiche di conservazione dei dati poco trasparenti – aiuta a contenere il fenomeno rendendo, al contempo, a disposizione alternative approvate.
• Introduzione di strumenti di prevenzione della perdita di dati (DLP Data Loss Prevention) specifici per l’AI – Classificare le applicazioni GenAI (es. autorizzati e sicuri, utilizzabili solo da alcuni dipendenti, non autorizzati o rischiosi), affinare i controlli di accesso utente e la capacità di Data Loss Prevention attraverso soluzioni tecnologiche pensate appositamente per l’intelligenza artificiale (es. firewall di nuova generazione NGFW) e stabilendo con alta precisione chi può usare quale strumento e quali dati può inserire.
• Governance e policy formali – Vanno definite, documentate, condivise e regolarmente aggiornate politiche dedicate che comportano sia la condivisione di regole chiare su quali strumenti AI sono ammessi, per quali usi e con quali dati, sia le policy per l’introduzione di soluzioni di AI in azienda, tale misura è in linea con quanto richiesto dall’AI ACT in particolare art. 4. Deve essere vietato il ricorso ad account personali. QUA VOLENDO LINK AD ARTICOLO SUL TEMA, che ho inviato la settimana scorsa da AI literacy
• Offrire alternative valide invece di limitarsi a vietare – Più che imporre divieti, l’approccio più evoluto suggerito è di fornire ai dipendenti strumenti AI ufficiali, utilizzabili, visibili, condivisi, verificabili, approvati prima che si diffondano spontaneamente così da ridurre l’incentivo a cercarne di propri.
• Formazione dei dipendenti – Educare il personale sui rischi specifici legati all’uso di agenti AI e strumenti non approvati, concentrandosi su strategie pratiche di mitigazione piuttosto che sul semplice divieto, anche in questo caso si tratta di una misura congruente con l’AI ACT. La formazione deve essere pianificata all’ingresso del collaboratore, ad intervalli, in occasione di modifiche rilevanti ai sistemi ed in caso di incidenti.

Conclusioni

La Shadow AI rappresenta una minaccia alla sicurezza delle informazioni in costante e rapida crescita per le organizzazioni. Il suo uso nasce dalla facilità con cui i dipendenti possono adottare strumenti AI potenti senza alcuna procedura di approvazione e con scarsa possibilità di essere intercettati, quindi a bassa rilevabilità. Si distingue dalla tradizionale Shadow IT per la natura stessa dei rischi, legati non solo alla localizzazione dei dati ma alla loro effettiva elaborazione da parte dei modelli. Le misure disponibili sono limitate e devono far leva sulla governance, consapevolezza del personale e alternative ufficiali valide, più che su divieti generalizzati che, secondo l’esperienza già maturata con la GenAI, tendono a fallire. Tuttavia, bisogna essere consapevoli che si tratta di una battaglia persa. Le misure delineate richiedono tempo per essere pianificate, applicate e aggiornate, mentre gli strumenti di intelligenza artificiale non autorizzati e le nuove soluzioni di AI si diffondono e cambiano molto rapidamente

Nota dell’autrice – per la stesura dell’articolo si è fatto riferimento a fonti autorevoli e qualificate che hanno approfondito il tema e compiuto ricerche quali-quantitative.