Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
2 resultados para «Yanning Chen»
Más recientes primero · Hasta 30 noticias por página
Hugging Face BlogCómo habilitar el entrenamiento con RL agéntico para GPT-OSS: una retrospectiva práctica
Un equipo de LinkedIn publica una retrospectiva práctica sobre cómo habilitar el entrenamiento con aprendizaje por refuerzo agéntico para el modelo abierto GPT-OSS usando el framework verl. El artículo detalla tres problemas técnicos: el desajuste de log-probabilidad en la arquitectura MoE que rompe la integridad on-policy de PPO, el desajuste entre entrenamiento e inferencia por falta de soporte de attention sink en FlashAttention, y desbordes de memoria de FSDP por la materialización repetida de expertos. Los autores implementan la pasada backward de attention sink en FlashAttention v3 y optimizaciones de memoria, logrando convergencia estable y mejoras de recompensa en tareas como GSM8K, VerifyIf y ReTool.
Liger GRPO se integra con TRL para reducir un 40% la memoria en el entrenamiento de modelos de lenguaje
El equipo de Hugging Face TRL integró Liger Kernel con el entrenador GRPO, logrando una reducción del 40% en el uso máximo de memoria de GPU durante el ajuste fino de modelos de lenguaje con aprendizaje por refuerzo, sin pérdida de calidad. La optimización fragmenta el cálculo de logits y acumula gradientes por fragmento, y se suma soporte para FSDP, PEFT y vLLM para escalar el entrenamiento en múltiples GPU y nodos. Los benchmarks con Qwen3-0.6B muestran que el tamaño de lote puede aumentar entre 1,5 y 1,8 veces.