Escalado en tiempo de prueba para modelos de lenguaje de difusión con remasquillado consciente de la frecuencia
Resumen del corpus
Se propone un escalado en tiempo de prueba para modelos de lenguaje de difusión mediante una asignación adaptativa de cómputo y estrategias de decodificación. El método utiliza un muestreador rápido para preguntas fáciles y remasquillado consciente de la frecuencia para preguntas difíciles. Los experimentos demuestran mejoras en precisión y cobertura en benchmarks como MATH-500 y HumanEval.
Tags
Personas mencionadas
Noticia original