intelligenza artificiale

CMSF: la vulnerabilità nascosta nei modelli di linguaggio avanzati

Home Cultura e società digitali

CMSF, una nuova forma di manipolazione semantica, sfrutta la coerenza narrativa nei modelli LLM per produrre contenuti sensibili mascherati da simulazioni. Un esperimento rivela l’efficacia di questo fenomeno nel modificare il comportamento del modello

Pubblicato il 10 lug 2025

Daniela Lucia Calabrese

Digital Transformation Expert- SpritzMatter, SpinOff dell’Università di Padova

LLM e RAG nell'automazione Funzionamento dei modelli ai Vulnerabilità dei LLM red-teaming LLM verifica LLM LLM open source introspezione dei modelli linguistici

Il fenomeno del “Compliance Masking via Simulated Framing” (CMSF) rappresenta una vulnerabilità complessa nei modelli linguistici di grandi dimensioni LLM di ultima generazione, in particolare quelli basati su GPT-4.

@RIPRODUZIONE RISERVATA

C

Daniela Lucia Calabrese

Digital Transformation Expert- SpritzMatter, SpinOff dell’Università di Padova

Seguimi su

Continua a leggere questo articolo

Argomenti

Canali

Cultura e società digitali

Con o Senza – Galaxy AI per il business

Tutti

AI per il lavoro

Mobile security

Leggi l'articolo Meno tempo sui micro-task e più focus sulle attività a valore aggiunto: l’AI mobile a supporto della produttività

Meno tempo sui micro-task e più focus sulle attività a valore aggiunto: l’AI mobile a supporto della produttività

Leggi l'articolo Mobile Security by design: una sicurezza nativa e integrata nell’hardware

Mobile Security by design: una sicurezza nativa e integrata nell’hardware

Leggi l'articolo Con o Senza Galaxy AI per il business: l’innovazione mobile va in scena

Con o Senza Galaxy AI per il business: l’innovazione mobile va in scena

Leggi l'articolo Con o senza AI? L’intelligent workplace direttamente sullo smartphone

Con o senza AI? L’intelligent workplace direttamente sullo smartphone

Leggi l'articolo Meno tempo sui micro-task e più focus sulle attività a valore aggiunto: l’AI mobile a supporto della produttività

Meno tempo sui micro-task e più focus sulle attività a valore aggiunto: l’AI mobile a supporto della produttività

Leggi l'articolo Mobile Security by design: una sicurezza nativa e integrata nell’hardware

Mobile Security by design: una sicurezza nativa e integrata nell’hardware

Leggi l'articolo Con o Senza Galaxy AI per il business: l’innovazione mobile va in scena

Con o Senza Galaxy AI per il business: l’innovazione mobile va in scena

Leggi l'articolo Con o senza AI? L’intelligent workplace direttamente sullo smartphone

Con o senza AI? L’intelligent workplace direttamente sullo smartphone

Articoli correlati