Escalado en tiempo de prueba para modelos de lenguaje de difusión con remasquillado consciente de la frecuencia

Resumen del corpus

Se propone un escalado en tiempo de prueba para modelos de lenguaje de difusión mediante una asignación adaptativa de cómputo y estrategias de decodificación. El método utiliza un muestreador rápido para preguntas fáciles y remasquillado consciente de la frecuencia para preguntas difíciles. Los experimentos demuestran mejoras en precisión y cobertura en benchmarks como MATH-500 y HumanEval.

Periodista: Bowen Zuo, Yue Yu, Dongruo Zhou, Yinglun Zhu

Personas mencionadas
Noticia original

Ver todas las noticias de arXiv Computer Science AI