REACT: Análisis y control temprano de trayectorias de cadena de pensamiento
Resumen del corpus
Se presenta REACT, una intervención de activación condicional diseñada para intervenir en los estados tempranos del razonamiento de modelos de cadena de pensamiento (CoT) con el fin de mejorar su seguridad. El estudio demuestra que las ediciones específicas del sitio concentran las ganancias de seguridad en los tokens iniciales de CoT, y que mantener una dirección efectiva y un presupuesto de edición fijo maximiza las ganancias tempranas. Además, REACT incrementa significativamente la tasa de salidas de respuesta de CoT totalmente seguras en un modelo específico.
Tags
Personas mencionadas
Noticia original