JailbreakOPT: Optimización Iterativa de Prompts de Jailbreak con Macro-Acciones
Resumen del corpus
Se presenta JailbreakOPT, un método que optimiza la optimización iterativa de prompts de jailbreak mediante la composición de transformaciones de prompts en macro-acciones. Este método utiliza muestreo Thompson contextual para aprender una política de selección de acciones, mejorando la tasa de éxito del ataque en comparación con métodos basados en acción única o iterativos. El objetivo es explorar vulnerabilidades residuales para mejorar las defensas contra ataques.
Tags
Personas mencionadas
Noticia original