Buscar noticias

Buscá por texto y descubrí noticias relacionadas con tu consulta.

Noticias relevantes

Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.

Liger GRPO se integra con TRL para reducir un 40% la memoria en el entrenamiento de modelos de lenguaje

El equipo de Hugging Face TRL integró Liger Kernel con el entrenador GRPO, logrando una reducción del 40% en el uso máximo de memoria de GPU durante el ajuste fino de modelos de lenguaje con aprendizaje por refuerzo, sin pérdida de calidad. La optimización fragmenta el cálculo de logits y acumula gradientes por fragmento, y se suma soporte para FSDP, PEFT y vLLM para escalar el entrenamiento en múltiples GPU y nodos. Los benchmarks con Qwen3-0.6B muestran que el tamaño de lote puede aumentar entre 1,5 y 1,8 veces.

Periodista: Shivam Sahni, Kashif Rasul, Salman Mohammadi, Shirin Yamani, Yanning Chen, Liberty

TorchNeuron facilita la ejecución de modelos de Hugging Face en AWS Trainium

Hugging Face presentó TorchNeuron, un plugin de PyTorch que aporta un backend nativo para AWS Trainium con ejecución eager, torch.compile y APIs distribuidas como FSDP y TP. Las librerías Transformers, Diffusers, Accelerate, PEFT y TRL lo soportan de forma nativa, reemplazando a Optimum Neuron, y la cobertura de arquitecturas de generación de texto sube del 46% al 89%. Estará disponible como beta pública desde el 20 de octubre de 2026 con instalación vía pip install torch-neuronx.

Periodista: Régis Pierrard, Simon Pagezy, Michael Benayoun, Jingya Huang, Alvaro Moran, David Corvoysier, Jeff Boudier

TransXplainRRG: Un LVLM evaluado por radiólogos para la generación de informes de radiografías de tórax

Se presenta TransXplainRRG, un LVLM diseñado para la generación de informes de radiografías de tórax, abordando los desafíos de rendimiento y explicabilidad clínica. El modelo combina codificadores de visión y texto para generar informes, buscando mejorar la interpretabilidad y la fiabilidad en aplicaciones de IA clínica. El sistema fue probado en conjuntos de datos grandes y mostró resultados competitivos y superiores a modelos existentes.

Periodista: Chayan Mondal, Duc-Son Pham, Tele Tan, Ashu Gupta, Vincent T. Y. Tiong, Shreya Ghosh, Tom Gedeon

Personas mencionadas

DPRM: Módulo de ordenamiento de tokens inducido por transformaciones de Doob para modelos de difusión discretos

Se presenta DPRM, un módulo de ordenamiento de tokens que utiliza una distribución de trayectoria sesgada por recompensa terminal para mejorar el razonamiento en modelos de difusión discretos. Este módulo corrige la tendencia de depender únicamente de la confianza local, logrando mejoras significativas en diversas métricas de rendimiento. Las mejoras incluyen incrementos en la precisión de modelos como PUMA GSM8K y RealWorldQA, demostrando la efectividad de ajustar la recompensa terminal.

Periodista: Dake Bu, Wei Huang, Andi Han, Si Wu, Hau-San Wong, Qingfu Zhang, Taiji Suzuki, Atsushi Nitanda

Personas mencionadas

GLM-5.2: el nuevo modelo de IA de Z.AI diseñado para tareas de largo horizonte con contexto de 1M de tokens

Z.AI presentó GLM-5.2, su nuevo modelo insignia de IA para tareas de largo horizonte, que por primera vez ofrece un contexto sólido de 1M de tokens. El modelo introduce la arquitectura IndexShare, que reduce los FLOPs por token en 2,9×, y mejoras en la capa MTP que aumentan la longitud de aceptación hasta un 20%. Según los benchmarks, GLM-5.2 es el modelo de código abierto mejor clasificado en tareas de codificación de largo horizonte, con un rendimiento cercano a Claude Opus 4.8 y por delante de GPT-5.5 en varias pruebas, y se distribuye bajo licencia MIT.

Periodista: Firma no identificada

TRL incorpora nuevos métodos de alineación para modelos de lenguaje visual

El artículo detalla las nuevas capacidades de la librería TRL para alinear modelos de lenguaje visual (VLM) con preferencias humanas, incorporando los métodos MPO, GRPO y GSPO, además de extensiones para RLOO y Online DPO. MPO combina pérdidas de DPO, BCO y SFT, logrando una mejora de 6,2 puntos en MathVista. También se añade soporte nativo de ajuste fino supervisado para VLM y la integración de vLLM para métodos de alineación en línea.

Periodista: Sergio Paniego, merve, Quentin Gallouédec, Kashif Rasul, Aritra Roy Gosthipaty

Kimina-Prover: aplicación de búsqueda RL en tiempo de prueba a grandes modelos de razonamiento formal

El equipo Numina y Kimi presentó Kimina-Prover-72B, un modelo de demostración automática de teoremas en Lean 4 entrenado con el pipeline de RL Kimi k1.5 sobre Qwen2.5-72B, junto con variantes destiladas de 8B y 1.7B. Sus innovaciones clave son la búsqueda de aprendizaje por refuerzo en tiempo de prueba (TTRL), que permite descubrir y combinar lemas recursivamente, y una capacidad de corrección de errores que interpreta los mensajes de Lean. En el benchmark miniF2F alcanza una tasa de aprobación de 92,2%, superando a modelos previos como DeepSeek-Prover-V2 y AlphaProof.

Periodista: Haiming Wang, Mert Unsal, Xiaohan Lin, Mantas Baksys, Junqi Liu, Marco Dos Santos, Flood Sung, Ying Zhenzhe, Zhu Zekai, Lu Jianqiao, Hugues de Saxcé, Thibaut Barroyer, Ebony Zhang, Bolton Bailey, Frederick Pu, Jonas Bayer, Marina Vinyes, Zhengying Liu, Li Jia

Aprendizaje por Refuerzo en el Plano de Decisión para Agentes de Lenguaje y LLMs

Se presenta RLiD (Reinforcement Learning in the Decision plane), un marco diseñado para optimizar directamente las probabilidades de opciones de acción ejecutables en modelos de lenguaje grandes (LLMs). Este enfoque busca mejorar la eficiencia del aprendizaje por refuerzo al eliminar la generación de tokens autoregresiva y mejorar la eficiencia del despliegue. Los experimentos demuestran mejoras en el rendimiento y la eficiencia computacional en varios entornos de juegos como ARC, Countdown y Sokoban.

Periodista: Ziyi Chen, Yan Zhang, Jianhui Wei, Jianing Yin, Daoan Zhang

Personas mencionadas

TorchUMM: Una base de código unificada multimodal para evaluación, análisis y post-entrenamiento

Se presenta TorchUMM, la primera base de código unificada para la evaluación, análisis y post-entrenamiento de modelos multimodales unificados (UMM). Esta herramienta permite evaluar modelos a través de diversas arquitecturas, tareas y conjuntos de datos, ofreciendo protocolos estandarizados para comparaciones reproducibles. El objetivo es facilitar el desarrollo de sistemas multimodales unificados más capaces.

Periodista: Yinyi Luo, Wenwen Wang, Hayes Bai, Hongyu Zhu, Hao Chen, Pan He, Marios Savvides, Sharon Li, Jindong Wang

Personas mencionadas

Un experimento con Keras y TPUs evalúa la capacidad de los LLM para corregir sus propios errores

Un experimento publicado por Martin Görner evalúa la capacidad de distintos modelos de lenguaje (LLM) para corregir errores en llamadas a una API de Python cuando se les señala el fallo en inglés simple. Usando una arena de chatbots construida con Keras, JAX y TPUs, se probaron modelos de las familias Gemma, Llama, Mistral y Vicuna en tareas de agendamiento de calendario. Solo Gemma 2 9B superó la prueba casi perfectamente, mientras que los modelos pequeños y antiguos mostraron dificultades para corregir sus errores de forma fiable.

Periodista: Martin Görner

Personas mencionadas

Noticias encontradas

Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.

Resultados para «TRM Lab»

Más recientes primero · Hasta 30 noticias por página

SmolVLM2: llevar la comprensión de video a todos los dispositivos

Hugging Face lanzó SmolVLM2, una familia de modelos multimodales de 2.2B, 500M y 256M parámetros capaces de comprender video e imágenes en dispositivos locales, desde teléfonos hasta servidores. El modelo de 2.2B supera a otros modelos de su rango en el benchmark Video-MME, mientras que las variantes de 500M y 256M son los modelos de lenguaje para video más pequeños publicados hasta la fecha. La compañía presentó demos como una app de iPhone, una integración con VLC y un generador de momentos destacados, y liberó el uso con Transformers y MLX desde el primer día.

Periodista: Orr Zohar, Miquel Farré, Andres Marafioti, Merve Noyan, Pedro Cuenca, Cyril Zakka, Joshua Lochner

Open R1 presenta su primer gran dataset de razonamiento matemático generado con DeepSeek R1

El proyecto Open R1, que busca reconstruir el pipeline de entrenamiento y los datos sintéticos de DeepSeek R1, presentó OpenR1-Math-220k, su primer conjunto de datos a gran escala para razonamiento matemático, generado localmente en 512 GPU H100. El dataset contiene 800k trazas de razonamiento para 400k problemas de NuminaMath 1.5, filtradas con Math Verify y Llama-3.3-70B-Instruct como juez, reteniendo 220k problemas con al menos una respuesta correcta. Al ajustar Qwen2.5-Math-Instruct con estos datos, OpenR1-Qwen-7B igualó el rendimiento de DeepSeek-Distill-Qwen-7B en benchmarks como MATH-500 y AIME.

Periodista: Loubna Ben Allal, Lewis Tunstall, Anton Lozhkov, Elie Bakouch, Guilherme Penedo, Hynek Kydlicek, Gabriel Martín Blázquez

Open-R1: actualización n.º 1 sobre la replicación del pipeline de DeepSeek-R1

El equipo de Hugging Face publica la primera actualización del proyecto Open-R1, lanzado una semana antes para replicar el pipeline de entrenamiento y los datos sintéticos de DeepSeek-R1. Reportan que lograron reproducir los resultados de DeepSeek en el benchmark MATH-500, integraron GRPO en TRL 0.14 y optimizaron la generación de datos sintéticos usando 32 GPU con inferencia en streaming. También reseñan las reacciones del mercado y de laboratorios como OpenAI y Anthropic, y los proyectos y datasets que la comunidad construyó en torno al modelo.

Periodista: Leandro von Werra, Lewis Tunstall, Quentin Gallouédec, Guilherme Penedo, Edward Beeching, Anton Lozhkov, Brigitte Tousignant, Daniel van Strien

Entrenamiento de modelos de embeddings estáticos 400 veces más rápidos con Sentence Transformers

El artículo presenta un método para entrenar modelos de embeddings estáticos que se ejecutan entre 100 y 400 veces más rápido en CPU que los modelos de última generación, conservando al menos el 85% de su rendimiento. Se lanzan dos modelos: static-retrieval-mrl-en-v1 para recuperación en inglés y static-similarity-mrl-multilingual-v1 para similitud multilingüe, junto con scripts de entrenamiento y conjuntos de datos. La técnica combina aprendizaje contrastivo y Matryoshka Representation Learning, habilitando casos de uso en dispositivos, navegadores y computación de borde.

Periodista: Tom Aarsen

Un análisis de los modelos de texto a video: desafíos y estado actual

El artículo repasa la evolución de los modelos de texto a video, desde las primeras arquitecturas GAN y VAE hasta las actuales basadas en difusión como VDM, MagicVideo y Text2Video-Zero. Señala desafíos clave: alto costo computacional, falta de datasets de calidad y dificultades para describir videos con texto. También presenta herramientas de Hugging Face, como Diffusers y demos de ModelScope, para descargar, ejecutar y ajustar estos modelos.

Periodista: Alara Dirik

Personas mencionadas

Río Abierto definió su agenda periodística

El proyecto Río Abierto definió las líneas de su agenda periodística para el año con la participación de sociedad civil, academia y gobierno. Se abordaron temas clave como la salud y el ambiente, la educación ambiental, la calidad del agua, la economía ambiental y el cumplimiento de la reforma constitucional de 2004. Se sugirió un mayor seguimiento de los temas y un enfoque en la perspectiva histórica y territorial.

Periodista: Firma no identificada