Jailbreak
Jailbreak: Tecnica che aggira le restrizioni comportamentali di un modello per ottenere risposte normalmente rifiutate. Sfrutta formulazioni indirette, role-play, traduzioni o conflitti tra istruzioni. La valutazione comprende attacchi variabili e controlli sul risultato, perché una lista di parole proibite non copre la superficie d’attacco.
In English: JailbreakLegge III · Come una rete impara dai datiSfrutta formulazioni indirette, role-play, traduzioni o conflitti tra istruzioni. La valutazione comprende attacchi variabili e controlli sul risultato, perché una lista di parole proibite non copre la superficie d’attacco.
Esempi
- Role-play per eludere una policy
- Istruzioni spezzate in più messaggi
- Contenuto proibito codificato