le vulnerabilità

Sicurezza AI, i limiti strutturali dei guardrail nei modelli generativi

Le nuove ricerche sui jailbreak mostrano la fragilità dei guardrail nei sistemi di AI generativa. I filtri di sicurezza restano probabilistici e manipolabili, con rischi crescenti per cybersecurity, disinformazione, modelli open source, responsabilità dei provider e governance digitale

Pubblicato il 20 mag 2026

Tania Orrù

Data Protection, Compliance & Digital Governance Advisor

Ai,Security,And,Data,Ecosystem,Integrate,Ai,,Data,,And,Security

Le nuove ricerche sui jailbreak mostrano un problema strutturale dell’intelligenza artificiale generativa: le barriere di sicurezza (cosiddette “guardrail”) funzionano solo come filtri probabilistici facilmente aggirabili. Mentre i modelli diventano più potenti, cresce il rischio sistemico per cybersecurity, disinformazione e governance digitale.

@RIPRODUZIONE RISERVATA

Tania Orrù

Data Protection, Compliance & Digital Governance Advisor

Avvocato e consulente in compliance, protezione dei dati e governance digitale, con oltre dieci anni di esperienza come DPO in contesti multinazionali. Si occupa di modelli di gestione e valorizzazione dei dati in ambito d’impresa, integrando compliance normativa, governance organizzativa e strategia aziendale. Attualmente è Global HSE Coordinator in un gruppo internazionale del lusso. Relatrice in convegni e iniziative formative su privacy, governance digitale e rischi emergenti dell’ecosistema tecnologico, è membro del Gruppo di Lavoro Marketing & E-commerce di Federprivacy e del collettivo Privacy She-Leaders per la promozione della leadership femminile nel settore delle nuove tecnologie e protezione dei dati. Scrive di privacy, diritti fondamentali, violenza digitale di genere e trasformazione tecnologica.

Seguimi su