Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
2 resultados para «Furu Wei»
Más recientes primero · Hasta 30 noticias por página
Microsoft ResearchUn año de Microsoft Research Asia – Singapur: investigación, alianzas y talento con impacto real
Microsoft Research Asia – Singapur cumple un año desde su apertura el 24 de julio de 2025 como primer laboratorio de investigación de Microsoft en el Sudeste Asiático. El laboratorio creció en equipo y alianzas con universidades como NUS y NTU, agencias como EDB, IMDA y A*STAR, y desarrolla investigación en IA multimodal para salud, sistemas agénticos y talento. Para su segundo año, el foco pasa de construir bases a escalar los modelos de colaboración con mayor impacto.
Hugging Face BlogMicrosoft presenta Differential Transformer V2, una versión más eficiente y estable para entrenar grandes modelos de lenguaje
Microsoft presentó Differential Transformer V2 (DIFF V2), una revisión de su arquitectura de atención diferencial orientada a la eficiencia de inferencia y la estabilidad del entrenamiento en modelos de lenguaje de gran escala. La nueva versión duplica las cabezas de consulta dentro de los grupos GQA compartidos, lo que permite igualar la velocidad de decodificación de un Transformer estándar y usar FlashAttention sin kernels personalizados. Además elimina el RMSNorm por cabeza y reemplaza el λ global por uno proyectado por token y cabeza, lo que reduce picos de gradiente y valores atípicos. Los experimentos de preentrenamiento sobre billones de tokens siguen en curso.