JailbreakOPT: Optimización Iterativa de Prompts de Jailbreak con Macro-Acciones

Resumen del corpus

Se presenta JailbreakOPT, un método que optimiza la optimización iterativa de prompts de jailbreak mediante la composición de transformaciones de prompts en macro-acciones. Este método utiliza muestreo Thompson contextual para aprender una política de selección de acciones, mejorando la tasa de éxito del ataque en comparación con métodos basados en acción única o iterativos. El objetivo es explorar vulnerabilidades residuales para mejorar las defensas contra ataques.

Periodista: Ge Shi, Jun Yin, Donglin Xie, Fangyi Liu, Yucan Li, Menglin Liu

Personas mencionadas
Noticia original

Ver todas las noticias de arXiv Computer Science AI