Examinando el impacto de los métodos de datos y entrenamiento en el desalineamiento emergente y subliminal

Resumen del corpus

El estudio examina cómo los métodos de entrenamiento y los datos influyen en el desalineamiento emergente (EM) y el aprendizaje subliminal (SL) en modelos de lenguaje. Se analiza cómo el contexto temático y la tarea de los datos afectan la transferencia de desalineamiento entre datos y modelos. Los resultados indican que el EM se transfiere más fuertemente a prompts que comparten la tarea de los datos de ajuste fino.

Periodista: Baris Askin, Muhammed Ustaomeroglu, Anupam Nayak, Gauri Joshi, Guannan Qu, Carlee Joe-Wong

Personas mencionadas
Noticia original

Ver todas las noticias de arXiv Computer Science AI