approfondimento

AI generativa e cybersecurity: perché è un’arma a doppio taglio



Indirizzo copiato

Il rapporto tra AI gen e cybersecurity ha due volti: da una parte l’innovazione è un’arma nelle mani dei cyber criminali, dall’altra è una risorsa per difendersi. Ecco lo scenario

Pubblicato il 29 nov 2024

Federica Maria Rita Livelli

Business Continuity & Risk Management Consultant, BCI Cyber Resilience Group, Clusit, ENIA



ai open source (1)

L’intelligenza artificiale generativa non è intrinsecamente buona o cattiva, in quanto il suo impatto dipende dall’uso: un aspetto particolarmente rilevante nell’ambito del rapporto tra AI gen e cybersecurity. Infatti, a fronte del rapido progresso di tale tecnologia emergono nuove opportunità e sfide nella sicurezza digitale.

L’AI è su entrambi i fronti della cybersecurity, sia come alleato sia come minaccia nel mondo digitale. Se da un lato i team di sicurezza usano le capacità dell’IA per rafforzare le difese, dall’altro lato, i criminali informatici l’impiegano per affinare i loro attacchi.

AI generativa e cybersecurity, i rischi

Di seguito alcune modalità di attacco che i cybercriminali possono mettere in atto sfruttando l’IA generativa.

  • Ingegneria sociale avanzata – Offre ai cyber criminali un modo per creare messaggi di phishing ed e-mail ultra-realistici, oltre a fornire altri canali che imitano lo stile, il tono o l’identità di persona di qualcuno che il bersaglio conosce, di cui si fida e che rispetta. Di fatto, ciò che è iniziato come schemi basati sulla posta elettronica noti come “phishing” si è espanso per comprendere una varietà di nuovi canali: i cyber criminali hanno adattato le loro tecniche per sfruttare i sistemi di messaggistica istantanea e i social media (“SMiShing”), le unità USB “perse” lasciate come esca (“baiting”), le telefonate (“vishing”) e, più di recente, i codici QR, che ora sono prevalenti sia negli spazi fisici sia in quelli digitali (“QRishing”). Si tratta, quindi, di tattiche sofisticate di ingegneria sociale avanzata che mettono a rischio la cybersecurity. Di fatto, grazie all’IA generativa, ciò che un tempo prevedeva mailing di massa con contenuti generici si è evoluto, permettendo di attuare in modo automatizzato e veloce campagne altamente mirate, utilizzando messaggi attentamente elaborati che rendono l’inganno molto più difficile da rilevare.
  • Creazione automatizzata di malware – I modelli di IA generativa possono generare nuove varianti di malware o modificarne di esistenti, eludendo potenzialmente i tradizionali metodi di rilevamento basati sulle firme. Tale capacità consente agli aggressori di produrre un volume maggiore di codice dannoso con maggiore efficienza.
  • Cracking intelligente delle password – L’IA generativa è in grado di analizzare i modelli nei database di password note per creare algoritmi in grado di risalire alle password più efficaci e di compromettere gli account utente più rapidamente rispetto ai tradizionali metodi di brute force attack.
  • Ricognizione sofisticata – Gli strumenti di machine learning sono in grado di analizzare l’intero deep e dark web, insieme ad altre fonti di dati aperte, per individuare obiettivi potenzialmente redditizi e vulnerabilità sfruttabili, accelerando la fase di ricognizione da parte dei cybercriminali.

L’IA generativa come alleato per la cybersecurity

L’IA generativa può altresì rivelarsi come una potente leva strategica per migliorare la cybersecurity. Di fatto, già da alcuni anni, i sistemi di IA sono stati impiegati per rilevare anomalie che potrebbero segnalare un attacco informatico o una frode. Inoltre, i recenti progressi tecnologici hanno notevolmente migliorato l’accuratezza di questi sistemi di difesa, consentendo loro di rilevare e neutralizzare minacce sempre più sofisticate in modo più efficace e in fasi iniziali.

Ancora, i sistemi di IA generativa possono essere utilizzati per automatizzare le attività di monitoraggio della cybersecurity, in modo che possano essere eseguite più velocemente ed evitare un gran numero di errori umani e, al contempo, garantire una serie di benefici, quali:

  • Migliore protezione dei dati in un ambiente cloud ibrido grazie al monitoraggio delle anomalie nell’accesso ai dati. Ovvero, quando vengono rilevate irregolarità, i sistemi di IA avvisano tempestivamente i professionisti della cybersecurity, consentendo loro di rispondere rapidamente alle potenziali minacce.
  • Maggiore accuratezza dell’analisi dei rischi, grazie alle funzioni di reporting degli incidenti e automatizzazione delle risposte agli incidenti, velocizzando considerevolmente le indagini e le classificazioni delle vulnerabilità.
  • Riduzione delle frodi grazie a meccanismi come l’autenticazione degli utenti, riuscendo i sistemi di IA di nuova generazione riescono a distinguere tra persone reali e attività dannose, analizzando i dati comportamentali.
  • Risposta automatica agli incidenti – L’IA generativa può assistere i team di sicurezza nella creazione e nell’esecuzione di piani di risposta agli incidenti, fornendo i passaggi da seguire in caso di attacco, consentendo una risposta rapida ed efficace.
  • Valutazione della vulnerabilità e patching – I modelli di IA generativa consentono di eseguire analisi statiche e revisione del codice, esaminando il codice o la configurazione del sistema e identificarne le vulnerabilità. Inoltre, esistono modelli di IA che generano le patch o le suggeriscono, garantendo un approccio proattivo alla cybersecurity.
  • Formazione sulla sicurezza avanzata – L’IA generativa può creare simulazioni realistiche di attacchi informatici a fini formativi, aiutando a sviluppare migliori competenze nell’identificazione e nella risposta alle minacce.
  • Protezione dalle minacce basate sull’IA- Man mano che l’IA generativa inizia a trovare spazio nelle misure sia offensive sia difensive di cybersecurity, è in grado di supportare i difensori nell’individuare nuove modalità per porre fine agli algoritmi “generativi” già utilizzati contro di loro.
  • Implementazione di soluzioni di sicurezza basate sull’IA – È possibile stabilire una difesa basata sull’IA generativa, utilizzando strumenti e infrastrutture di sicurezza potenziati da questa tecnologia sofisticata. Ciò permetterà di stabilire una difesa basata sull’IA in grado di identificare e reagire agli attacchi in tempo reale, impedendo che si verifichino danni.
  • Migliore formazione dei dipendenti – L’IAgenerativa permette di aggiornare regolarmente tutta la formazione di cybersecurity, includendo le minacce generate dall’IA e, in questo modo, insegnare ai dipendenti a esaminare attentamente le comunicazioni digitali e a metterne in discussione le richieste.

Conclusione

L’IA generativa ha il potenziale per rivoluzionare il panorama della cybersecurity, con un impatto sia sugli aggressori sia sui team di difesa. Di fatto, l’IA generativa consente, da un lato, tattiche di ingegneria sociale più avanzate e, dall’altro lato, l’applicazione strategica delle tecniche di IA che può proteggerci efficacemente dalle minacce informatiche emergenti. Ovvero, stiamo assistendo sempre più a una convergenza tra il settore della cybersecurity e dell’IA generativa.

Pertanto, l’adozione di strumenti e tecniche basate sull’IA generativa nella cybersecurity non è più una scelta facoltativa, ma una necessità per far fronte alla crescente sofisticatezza degli attacchi informatici. Il paradosso è che, per contrastare i rischi posti dall’IA, è necessario impiegare l’IA stessa.

Siamo di fronte ad una IA che è due facce della stessa medaglia nella cybersecurity e, personalmente, ritengo che più l’IA generativa dei cyber criminali diventerà sofisticata, più avanzate dovranno diventare le misure di cybersecurity, dando impulso al settore per elaborare nuovi e unici approcci di IA generativa per la cybersecurity.

Inoltre, risulterà altrettanto fondamentale incorporare sempre più nelle organizzazioni i principi gestione del rischio, della continuità operativa e dalla cybersecurity, quanto mai strategici in un mondo sempre più digitalizzato e che deve essere conforme ad una galassia normativa europea caratterizzata da un approccio risk-based e resilience-based.

EU Stories - La coesione innova l'Italia

Tutti
Social
Iniziative
Video
Analisi
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Iniziative
Al via il progetto COINS
Eventi
Un nuovo sguardo sulla politica di coesione dell'UE
Iniziative
Parte la campagna di comunicazione COINS
Interviste
Marco De Giorgi (PCM): “Come comunicare le politiche di coesione”
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politiche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati

Articolo 1 di 4