Quando parliamo di AI e cybersecurity, il rischio è concentrarsi troppo sui modelli che verranno. Per la sicurezza, però, la sfida è già qui: gli strumenti disponibili oggi sono già sufficientemente potenti per essere utilizzati anche da chi vuole condurre un attacco.
Il punto, quindi, non è tanto capire cosa potranno fare i modelli di domani, ma come stanno già cambiando oggi le modalità con cui un attacco può essere progettato e portato avanti.
Indice degli argomenti
AI e cybersecurity: gli attacchi sono già cambiati
I modelli di AI hanno raggiunto un livello di maturità sufficiente per essere utilizzati in attività che, fino a poco tempo fa, richiedevano competenze e tempi molto più elevati.
Questo vale naturalmente anche per chi opera con finalità malevole. Un threat actor può utilizzare l’AI per accelerare alcune fasi di un attacco, generare o modificare codice, analizzare informazioni, automatizzare attività ripetitive o rendere più sofisticate tecniche di social engineering.
Non significa che l’AI trasformi automaticamente chiunque in un hacker, ma significa che una parte del lavoro necessario per costruire e portare avanti un attacco può essere resa più veloce, accessibile e scalabile. Ed è proprio qui che si trova uno degli aspetti più delicati del fenomeno: la disponibilità degli strumenti.
Accanto ai modelli proprietari più conosciuti esiste infatti un ecosistema sempre più ampio di modelli open weight che possono essere utilizzati con maggiore flessibilità e, in alcuni casi, con costi e barriere di accesso inferiori. Questa caratteristica ha un valore enorme dal punto di vista dell’innovazione, perché favorisce sperimentazione e accessibilità.
Ma rappresenta anche un elemento da considerare quando si ragiona di sicurezza. Il rischio, quindi, non dipende esclusivamente dalla corsa verso modelli sempre più potenti. Anche ipotizzando di rallentare lo sviluppo dei sistemi di AI più avanzati, non elimineremmo il problema. Gli strumenti che abbiamo già oggi non scomparirebbero e continuerebbero a essere disponibili, anche al di fuori dei circuiti controllati dai grandi provider.
Per questo credo che la domanda corretta per la cybersecurity non sia: “Come ci prepariamo al prossimo modello?”, ma piuttosto “Come cambiano gli attacchi quando l’AI diventa una componente operativa all’interno di un sistema più ampio?”.
Agenti AI orchestrati, il nuovo perimetro della cybersecurity
È qui che entra in gioco quello che considero il vero cambio di paradigma: non il singolo modello, ma l’orchestrazione di più agenti. Un modello AI che risponde a una richiesta è uno strumento. Un insieme di agenti che possono ricevere un obiettivo, suddividere un’attività in passaggi, utilizzare strumenti differenti, verificare alcuni risultati e procedere autonomamente lungo una sequenza di azioni rappresenta qualcosa di diverso.
La differenza può sembrare sottile, ma dal punto di vista della cybersecurity è sostanziale.
Con l’AI tradizionale il ragionamento tende ancora a essere centrato sull’interazione tra una persona e uno strumento. Con gli agenti orchestrati, invece, iniziamo a parlare di sistemi capaci di coordinare attività diverse e di interagire con ambienti, applicazioni e strumenti esterni. È questo il passaggio che può modificare realmente il perimetro della minaccia.
Un attaccante non deve necessariamente utilizzare un unico modello per ottenere un risultato. Può immaginare una catena di attività in cui sistemi differenti vengono impiegati per compiti differenti: uno per analizzare informazioni, uno per generare codice, uno per interpretare una risposta, un altro per svolgere un’attività successiva. Il valore non è quindi semplicemente nella “bravura” del singolo modello, ma nella capacità di mettere in relazione più componenti.
Lo stesso principio, naturalmente, vale dal lato difensivo. Se l’AI sta diventando un sistema capace di orchestrare attività, anche la sicurezza non può limitarsi a verificare il singolo strumento. Deve comprendere come gli agenti vengono configurati, quali strumenti possono utilizzare, quali dati possono raggiungere, quali autorizzazioni possiedono e come vengono controllate le loro azioni.
Competenze diverse per governare l’AI nella cybersecurity
Questo porta a un secondo punto che considero fondamentale: non possiamo pensare che la risposta alla diffusione dell’AI sia una formazione indistinta rivolta a tutti allo stesso modo.
Le competenze necessarie cambiano in funzione del ruolo che una persona ricopre all’interno dell’organizzazione.
La consapevolezza per chi usa l’AI generativa
Per un impiegato che utilizza quotidianamente uno strumento di AI generativa, il primo livello di consapevolezza può essere relativamente semplice, ma non per questo meno importante. Deve sapere, per esempio, che una risposta generata da un modello non è necessariamente una risposta vera: è una previsione probabilistica. Questo significa che uno strumento di AI può essere estremamente utile per attività a bassa criticità, ma richiede un controllo molto più rigoroso quando viene utilizzato per produrre informazioni, contenuti o decisioni per i quali la precisione è fondamentale.
Architetture, agentic computing e nuovi rischi
Il livello cambia completamente quando parliamo di chi progetta soluzioni e architetture.
Per un architect non è sufficiente sapere utilizzare un chatbot o conoscere le principali funzionalità di un modello. Serve comprendere i nuovi paradigmi legati all’agentic computing e all’harness computing, quindi il modo in cui i modelli vengono inseriti all’interno di sistemi più complessi, collegati a strumenti, fonti dati, applicazioni e processi. La domanda non è più soltanto “che cosa può fare questo modello?”, ma “che cosa può fare questo modello all’interno dell’architettura che ho progettato?”.
Ethical hacking e scenari di attacco basati sull’AI
E ancora diverso è il caso di chi si occupa di ethical hacking.
Qui il livello di competenza deve essere ancora più verticale. Un professionista della sicurezza deve essere in grado di comprendere non soltanto le potenzialità dell’AI, ma anche come queste possano essere sfruttate per costruire nuove modalità di attacco e, soprattutto, come possano essere testate all’interno di un ambiente controllato. Significa conoscere tecniche, architetture e vulnerabilità specifiche, per poter simulare scenari realistici e individuare preventivamente i punti deboli.
La sicurezza dell’AI non si risolve con un solo prodotto
Questa differenziazione è importante perché ci aiuta anche a superare un altro equivoco: quello secondo cui per affrontare l’AI nella cybersecurity sarebbe sufficiente acquistare un nuovo prodotto.
Non credo sia così.
Non esiste un singolo prodotto in grado di proteggere un’organizzazione da questo tipo di evoluzione, semplicemente perché non esiste un unico perimetro da proteggere. L’AI attraversa ormai livelli diversi dello stack tecnologico. Può entrare nelle infrastrutture, nelle applicazioni, nei processi aziendali e negli strumenti utilizzati dalle persone. Può essere adottata direttamente dall’azienda oppure utilizzata all’interno di soluzioni di terze parti. Può essere impiegata per sviluppare software, analizzare dati, automatizzare processi o interagire con sistemi aziendali. Di conseguenza, anche la superficie di rischio diventa trasversale.
Governare l’AI richiede una cybersecurity trasversale
Pensare alla sicurezza dell’AI come a una nuova casella da aggiungere all’interno dell’architettura di sicurezza esistente rischia quindi di essere riduttivo. Serve piuttosto una capacità di leggere insieme infrastrutture, applicazioni e comportamenti, comprendendo come questi livelli possano interagire tra loro.
È per questo che, più che cercare un prodotto “AI security” da acquistare e installare, le aziende dovrebbero cercare competenze in grado di accompagnarle nell’analisi del proprio specifico contesto.
Un partner efficace, in questo scenario, non dovrebbe limitarsi a conoscere un singolo stack tecnologico o una singola categoria di strumenti. Dovrebbe avere esperienza trasversale sulle infrastrutture, sugli ambienti applicativi e sull’ethical hacking, così da poter leggere il problema da più punti di vista e costruire contromisure coerenti con il reale perimetro dell’organizzazione.
Dallo strumento a un ecosistema di agenti
La sfida che abbiamo davanti, quindi, è capire come governare ciò che già esiste. E soprattutto comprendere che il passaggio decisivo non è necessariamente da un modello meno potente a uno più potente. È dal singolo strumento a un ecosistema di agenti capaci di collaborare, utilizzare strumenti, accedere a informazioni e portare avanti sequenze di attività.
Partecipa alla community