Examinando el impacto de los métodos de datos y entrenamiento en el desalineamiento emergente y subliminal
Resumen del corpus
El estudio examina cómo los métodos de entrenamiento y los datos influyen en el desalineamiento emergente (EM) y el aprendizaje subliminal (SL) en modelos de lenguaje. Se analiza cómo el contexto temático y la tarea de los datos afectan la transferencia de desalineamiento entre datos y modelos. Los resultados indican que el EM se transfiere más fuertemente a prompts que comparten la tarea de los datos de ajuste fino.
Tags
Personas mencionadas
Noticia original