Red teaming dell’AI agentica: i rischi che i test sui prompt non vedono

Quando i sistemi di AI generativa si limitano a rispondere a una domanda, la loro sicurezza può essere studiata osservando la relazione tra i dati in ingresso e il risultato ottenuto: a fronte di una modifica del prompt, si può osservare se il modello rivela informazioni che invece avrebbe dovuto proteggere o se produce contenuti indesiderati.