Buscar noticias

Buscá por texto y descubrí noticias relacionadas con tu consulta.

Noticias relevantes

Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.

No encontramos noticias relacionadas por su significado.

Noticias encontradas

Coincidencias en título, descripción, resumen, tags, personas o periodista.

1 resultado para «Matthew Frank»

Más recientes primero · Hasta 30 noticias por página

Cómo habilitar el entrenamiento con RL agéntico para GPT-OSS: una retrospectiva práctica

Un equipo de LinkedIn publica una retrospectiva práctica sobre cómo habilitar el entrenamiento con aprendizaje por refuerzo agéntico para el modelo abierto GPT-OSS usando el framework verl. El artículo detalla tres problemas técnicos: el desajuste de log-probabilidad en la arquitectura MoE que rompe la integridad on-policy de PPO, el desajuste entre entrenamiento e inferencia por falta de soporte de attention sink en FlashAttention, y desbordes de memoria de FSDP por la materialización repetida de expertos. Los autores implementan la pasada backward de attention sink en FlashAttention v3 y optimizaciones de memoria, logrando convergencia estable y mejoras de recompensa en tareas como GSM8K, VerifyIf y ReTool.

Periodista: Jason Zhu, Hejian Sang, Arup De, Rohit Jain, Yanning Chen