L’integrazione dell’intelligenza artificiale nei processi aziendali ha innescato una trasformazione tecnologica ed economica senza precedenti, ponendo i Chief Information Security Officer di fronte a una sfida organizzativa e strategica di enorme complessità.
La pressione esercitata dai consigli di amministrazione e dai CEO per adottare rapidamente queste nuove tecnologie è palpabile, spesso guidata dalla cosiddetta FOMO (sigla del “Fear Of Missing Out”), ovvero il timore di perdere terreno rispetto ai competitor. In questo contesto, le recenti discussioni nel settore e in diverse conferenze strategiche suggeriscono talvolta che i leader della sicurezza debbano adottare un approccio più flessibile, quasi permissivo, trasformandosi in facilitatori incondizionati per non ostacolare la velocità del business.
Sebbene la collaborazione con le linee di business sia un requisito fondamentale per qualsiasi leader moderno, delegare eccessivamente le decisioni sull’adozione tecnologica o tollerare sperimentazioni non controllate può esporre l’organizzazione a rischi sistemici devastanti. L’intelligenza artificiale, per sua natura probabilistica e opaca, non elimina le regole d’oro della gestione del rischio, ma ne richiede un’applicazione ancora più attenta, rigorosa e metodica. Ad avviso di chi scrive, va ulteriormente esplorato come i CISO possano e debbano guidare l’innovazione, mantenendo una governance strutturata, collaborativa ma fermamente ancorata ai principi della sicurezza aziendale.
Indice degli argomenti
CISO e intelligenza artificiale: il contrasto alla shadow AI
Il modello organizzativo che consente ai vari dipartimenti di sperimentare in autonomia fino a un eventuale blocco da parte del dipartimento di sicurezza (un concetto che richiama la dottrina militare del “comando per negazione”) si scontra frontalmente con le necessità di compliance attuali e con la natura stessa del dato. Consentire l’utilizzo non regolamentato di modelli linguistici di grandi dimensioni favorisce la proliferazione della cosiddetta shadow AI, un fenomeno immensamente più pericoloso del tradizionale shadow IT.
Quando un dipendente del marketing carica un documento di strategia aziendale su un LLM pubblico per ottenerne un riassunto, o quando le risorse umane inseriscono i dati di performance dei dipendenti in un tool non approvato, quelle informazioni entrano (o possono entrare) nel training set di un modello esterno privo di garanzie contrattuali.
Il rischio di esposizione diventa difficilmente sanabile perché, a differenza di un database tradizionale, non è possibile “cancellare” un dato dai pesi di una rete neurale una volta che è stato assimilato. Le normative vigenti, come il GDPR in Europa e le recenti direttive dell’AI Act, oltre alle regole della SEC/Consob (o similari) per le società quotate, richiedono un approccio preventivo basato sulla security by design.
Accessi, DLP e gateway per contenere la shadow AI
La strategia più prudente e costruttiva per il CISO consiste nel mantenere un’architettura in cui l’accesso agli strumenti di intelligenza artificiale non approvati è inibito di default a livello di perimetro di rete. Prima di autorizzare l’uso diffuso a tutta l’azienda, è necessario implementare filtri per la prevenzione della perdita di dati (della famiglia dei DLP) sui prompt in uscita, gateway di sicurezza per le API e barriere architetturali che impediscano l’esfiltrazione involontaria di proprietà intellettuale. Solo quando queste fondamenta sono solide, si può abilitare la sperimentazione del business.
Risk acceptance e responsabilità del CISO nei sistemi AI
Un principio manageriale spesso citato nei consessi di settore è che il rischio debba essere responsabilità esclusiva di chi lo genera. Si suggerisce quindi ai CISO di lasciare che i leader di business prendano le loro decisioni, limitandosi a fare da consulenti. Tuttavia, nella complessa pratica aziendale, questa visione si rivela un’illusione. In caso di incidente informatico, violazione dei dati o sanzione normativa, le conseguenze organizzative ricadono invariabilmente sulla struttura preposta alla difesa, e in prima persona sul CISO, a prescindere da quale manager abbia inizialmente introdotto lo strumento vulnerabile.
Per tutelare l’organizzazione in modo efficace, è opportuno che il CISO stabilisca e faccia rispettare processi formali di accettazione del rischio (il c.d. risk acceptance) a livello esecutivo. Qualora, ad esempio, un dipartimento aziendale richieda l’implementazione accelerata di una soluzione di intelligenza artificiale generativa per il servizio clienti, chiedendo di derogare ai tempi standard di analisi della sicurezza per stringenti esigenze di time-to-market, la procedura deve essere chiara. La leadership di quel dipartimento dovrebbe documentare e formalizzare l’assunzione di questa responsabilità tramite un documento vincolante (il c.d. risk acceptance form), controfirmato dal board.
Questo approccio non ha in alcun modo un fine punitivo o ostruzionistico. Al contrario, serve a stimolare una valutazione rigorosa e condivisa all’interno dell’azienda, costringendo i decisori a pesare il reale ritorno sull’investimento della tecnologia rispetto alle potenziali esposizioni finanziarie e reputazionali. La trasparenza sull’ownership del rischio è l’unico strumento che garantisce un allineamento tra gli obiettivi di business e la postura di sicurezza.
Monitoraggio dell’AI: come il CISO evita l’alert fatigue
Nel dibattito sulle strategie difensive per l’ecosistema dell’intelligenza artificiale, emergono talvolta raccomandazioni operative confuse, come l’idea di dover eseguire test di penetrazione continui e ininterrotti per stare al passo con l’evoluzione dei modelli. È imperativo fare chiarezza su questi processi per non disperdere budget preziosi: i penetration test sono indagini verticali, profonde e mirate, ideali per validare architetture critiche prima del rilascio, ma non costituiscono un’attività di sorveglianza perenne.
CTEM, telemetria e sovraccarico del Security Operations Center
Anche quando si valutano programmi avanzati di gestione continua delle esposizioni, come il CTEM (il c.d. Continuous Threat Exposure Management), è necessario procedere con estrema cautela e gradualità. L’infrastruttura legata all’AI genera una quantità enorme di telemetria.
Attivare sistemi di monitoraggio costante in un ecosistema in via di maturazione organizzativa significa rischiare di sovraccaricare il Security Operations Center con un volume ingestibile di segnalazioni e anomalie. Il risultato diretto di questo sovraccarico è la cosiddetta alert fatigue: il team di sicurezza, sommerso da un mare di falsi positivi o vulnerabilità teoriche a bassa priorità, inizia fisiologicamente a ignorare gli allarmi.
In questo scenario, il paradosso è che l’eccesso di monitoraggio riduce la sicurezza reale. Un attaccante potrebbe sfruttare silenziosamente una vulnerabilità basilare, come un’API non adeguatamente autenticata in un sistema RAG, passando del tutto inosservato proprio perché il suo allarme è rimasto sepolto sotto migliaia di altre notifiche. Pertanto, prima di ampliare il monitoraggio continuo, il CISO deve assicurarsi di aver investito massicciamente nell’automazione della risposta agli incidenti (con i c.d. SOAR) e nella capacità di triage del proprio team operativo.
Competenze per il CISO nell’era dell’intelligenza artificiale
L’evoluzione rapida delle minacce legate all’AI impone un profondo ripensamento dei criteri di selezione, valutazione e formazione per i professionisti della sicurezza informatica. In alcune visioni eccessivamente ottimistiche, si suggerisce di valutare i candidati in base alla loro abilità nell’utilizzare l’intelligenza artificiale per risolvere problemi di business generici in tempo reale. Sebbene saper formulare prompt efficaci o utilizzare assistenti virtuali sia certamente un valore aggiunto per la produttività individuale, queste abilità non dimostrano in modo esaustivo la capacità analitica necessaria per proteggere infrastrutture complesse.
Threat modeling e attacchi ai sistemi di machine learning
I team di sicurezza moderni necessitano di competenze verticali e molto più specializzate, focalizzate sul threat modeling applicato specificamente alle reti neurali e ai sistemi di machine learning. I professionisti difensivi devono essere in grado di guardare il diagramma architetturale di un’applicazione AI ed eviscerarne le debolezze strutturali.
Devono comprendere intimamente vettori di attacco emergenti e sofisticati, tra cui la manipolazione indiretta dei prompt, in cui un documento malevolo caricato dall’esterno altera il comportamento del modello; l’avvelenamento dei dati (o data poisoning) durante i cicli di fine-tuning; e l’inversione del modello atta a estrarre dati sensibili di addestramento. Saper identificare queste minacce e definire i necessari controlli di mitigazione architetturale è ciò che separa un team di sicurezza resiliente da uno puramente reattivo.
La governance dell’intelligenza artificiale guidata dal CISO
Per evitare di essere percepito esclusivamente come l’ufficio dei “no”, il CISO deve promuovere attivamente la creazione di un framework di governance dell’AI che coinvolga trasversalmente l’intera organizzazione. La costituzione di un comitato guida per l’AI (un vero e proprio AI steering committee), che includa rappresentanti del dipartimento legale, delle risorse umane, del marketing e della sicurezza, rappresenta il primo passo per istituzionalizzare un dialogo costruttivo.
Policy, classificazione dei dati e rischio fornitori
Questo comitato deve avere il mandato di stilare policy chiare sull’uso accettabile degli strumenti generativi, classificando i dati in base al livello di confidenzialità (pubblici, interni, confidenziali, strettamente riservati) e mappando quali categorie di dati possano interagire con quali classi di modelli (modelli on-premise isolati, modelli cloud enterprise con accordi di non addestramento, o modelli pubblici aperti). Gestire in modo strutturato il rischio fornitori nel settore delle startup AI, spesso caratterizzate da scarse pratiche di sicurezza intrinseca, diventa un’altra funzione vitale che il CISO offre come vero valore aggiunto al business, prevenendo investimenti in tecnologie fondamentalmente insicure.
Il CISO come architetto dei limiti all’innovazione AI
In sintesi, il Chief Information Security Officer non ha il compito di frenare lo sviluppo tecnologico dell’azienda o di opporsi inevitabilmente ai desiderata del consiglio di amministrazione. Il suo ruolo critico è quello di tracciare il perimetro di sicurezza entro cui l’azienda può innovare in modo sostenibile nel lungo periodo. L’intelligenza artificiale rappresenta una risorsa strategica inestimabile, capace di ottimizzare processi, generare nuovo valore e rivoluzionare interi settori di mercato, ma porta intrinsecamente con sé sfide architetturali inedite che non ammettono improvvisazione.
Promuovere l’adozione di queste tecnologie significa, per il CISO, instaurare un modello di governance trasparente e maturo, in cui la flessibilità operativa si sposa rigorosamente con la verificabilità dei processi, la tracciabilità delle azioni e la responsabilità condivisa. In un ecosistema aziendale sempre più interconnesso e in continua e rapida evoluzione, il vero valore di un leader della sicurezza si esprime nella sua incrollabile capacità di strutturare limiti chiari, permettendo all’organizzazione di sfruttare tutto il potenziale trasformativo dell’intelligenza artificiale senza mai comprometterne la stabilità, la conformità normativa e, in ultima analisi, la fiducia dei propri clienti e stakeholder.
Partecipa alla community