Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
1 resultado para «Wee Sun Lee»
Más recientes primero · Hasta 30 noticias por página
Hugging Face BlogGRPO asíncrono con LoRA en HF Jobs: un bucket, un proxy y sin NCCL
El equipo de Hugging Face describe cómo entrenar un adaptador LoRA con GRPO asíncrono distribuyendo el entrenador y las réplicas de vLLM en Jobs separados, sin NCCL, usando un Storage Bucket compartido y un proxy que enruta los rollouts por prefijo KV. Mediante cinco ejecuciones optimizan el pipeline (empaquetado de micro-lotes, desactivar checkpointing y elevar el límite de solicitudes en vuelo), reduciendo 500 pasos de 3 h 27 min a 53 min con recompensa equivalente. La sincronización solo del adaptador mantiene la proporción de política en 1,000 y valida el enfoque para RL.