La geometría del rechazo: Por qué el rechazo post-hoc es frágil y el rechazo en tiempo de preentrenamiento persiste

Resumen del corpus

Se analiza la fragilidad del rechazo en modelos de lenguaje grandes, comparando el entrenamiento de seguridad post-hoc con el entrenamiento en tiempo de preentrenamiento. Se demuestra que el rechazo es frágil y que la persistencia, no el momento, determina si el rechazo se mantiene. Los modelos entrenados desde cero con co-entrenamiento de seguridad muestran una erosión menor del rechazo bajo ataques específicos.

Periodista: Srikanth Malla, Chiho Choi, Joon Hee Choi

Noticia original

Ver todas las noticias de arXiv Computer Science AI