Modelos de lenguaje aprenden a mejorar modelos de lenguaje

Resumen del corpus

Se propone LM2LM para entrenar LLMs con RL para generar propuestas de mejora efectivas de modelos de lenguaje. Se utiliza un modelo de mundo de investigación (RWM) como modelo de recompensa para proporcionar retroalimentación escalable. Evaluaciones muestran que LM2LM permite a Qwen3.8-27B superar a GPT-6-sol con un 33% menor costo de generación de datos.