Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
43 resultados para «Pedro Cuenca»
Más recientes primero · Hasta 30 noticias por página
Hugging Face BlogReflection lanza Beam, un modelo de IA abierto de 501B parámetros que se puede personalizar y escalar
Reflection, un nuevo laboratorio estadounidense, lanzó Beam, un modelo de inteligencia artificial abierto de 501B parámetros (23B activos por token) bajo licencia Apache 2.0, orientado a programación y casos de uso agénticos. El modelo admite una ventana de contexto de 1M tokens y cuenta con soporte desde el día 0 en transformers, vLLM y SGLang, además de recetas para ajuste fino y aprendizaje por refuerzo. Reflection ofrece 10.000 dólares en créditos de Hub a los mejores proyectos que utilicen Beam.
Meta lanza Muse Spark Open, un modelo multimodal de pesos abiertos con arquitectura de mezcla de expertos
Meta presentó Muse Spark Open, un modelo multimodal de pesos abiertos con arquitectura de mezcla de expertos de unos 816 mil millones de parámetros totales y 42 mil millones activos por token, con ventana de contexto de hasta un millón de tokens. El modelo acepta texto, imágenes, audio y video, y está optimizado para codificación agéntica y llamadas de herramientas. La publicación detalla su arquitectura, opciones de inferencia en Transformers, llama.cpp, SGLang, vLLM y MLX, el ajuste fino con TRL y demos de agentes.
Transformers ahora ejecuta cuantizaciones de llama.cpp
Hugging Face incorporó soporte para ejecutar modelos en formato GGUF, el estándar de cuantización de llama.cpp, dentro de la librería transformers. La integración reutiliza los kernels ggml de llama.cpp y optimiza el bucle de generación para acercar el rendimiento a esa herramienta en Apple Silicon, comenzando por la arquitectura Qwen3.5. El objetivo es facilitar la inferencia local en Python y PyTorch, aunque la ruta empaquetada es por ahora solo para MPS y con cobertura limitada de arquitecturas.
Meta lanza Muse Glimmer, un modelo multimodal y agéntico de código abierto para uso local
Meta lanzó Muse Glimmer, un modelo multimodal de 30B parámetros (codificador visual de 2B y decodificador de texto de 28B) bajo licencia Apache 2.0, pensado para uso agéntico local y aplicaciones que priorizan la privacidad. El modelo llega con soporte day-0 en transformers, llama.cpp, vLLM e Inference Endpoints, además de un borrador de decodificación especulativa DFlash para acelerar la generación. La publicación, difundida desde el blog de Hugging Face, incluye benchmarks frente a Gemma4-31B y Qwen3.6-27B, demos de auto-cuantización, auto-despliegue y autooptimización, y guías de fine-tuning con TRL.
Thinking Machines lanza Inkling, un modelo abierto multimodal de un billón de parámetros
Thinking Machines Lab lanzó Inkling, un modelo de lenguaje multimodal abierto de aproximadamente un billón de parámetros y ventana de contexto de un millón de tokens, que acepta texto, imágenes y audio de forma nativa. También presentó Inkling-Small, de 276.000 millones de parámetros totales y 12.000 millones activos, con la misma arquitectura. El modelo tiene soporte desde el primer día en transformers, SGLang, vLLM y llama.cpp, y se ofrece en versiones BF16 y NVFP4, además de borradores de predicción multi-token para acelerar la inferencia.
¿Es suficientemente agéntico? Cómo evaluar modelos abiertos con tus propias herramientas
Hugging Face publicó un arnés de evaluación, agent-eval, que mide no solo si un agente de programación resuelve una tarea con la biblioteca transformers, sino cuánto esfuerzo le lleva: turnos, tokens, tiempo y errores. El estudio comparó modelos abiertos grandes y pequeños en tres niveles (bare, clone y skill) y halló que el commit que agrega una CLI y una Skill reduce el tiempo de los modelos grandes pero perjudica a los pequeños, que en algunos casos caen del 100% al 0% de acierto. Los autores concluyen que las APIs orientadas a agentes deben evaluarse en distintos tamaños de modelo antes de publicarse.
Perfilado en PyTorch (Parte 2): de nn.Linear a un MLP fusionado
Segunda entrega de la serie "Profiling in PyTorch", que enseña a leer trazas del perfilador para optimizar modelos. El artículo parte de nn.Linear, muestra que el sesgo ya está plegado en el epílogo del kernel GEMM (addmm) y que torch.compile no tiene nada que fusionar en una sola capa. Luego apila tres capas en un MLP con activación GeGLU: en modo eager se lanzan cinco kernels y el intermedio pasa por HBM, mientras que compile fusiona GeLU y mul en un único kernel Triton; finalmente compara con kernels ajustados a mano de Liger, que logran la misma fusión sin costo de compilación.
Perfilado en PyTorch (Parte 1): guía para principiantes de torch.profiler
Entrada de blog de Hugging Face que inaugura una serie sobre perfilado en PyTorch, centrada en el uso de torch.profiler para leer trazas de CPU y GPU. Explica con ejemplos de multiplicación y suma de matrices cómo distinguir algoritmos limitados por sobrecarga de los limitados por cómputo, interpretar la tabla del perfilador y la cadena de despacho hasta los kernels de CUDA. También analiza el efecto de torch.compile, que fusiona operaciones a nivel del despachador pero no genera un kernel único y aumenta la sobrecarga de CPU por paso.
Harness, scaffold y los términos de agentes de IA que conviene entender bien
Artículo de Hugging Face que funciona como glosario para ordenar la terminología emergente de los agentes de inteligencia artificial. Distingue entre modelo, andamiaje (scaffolding) y arnés (harness), y explica conceptos como ingeniería de contexto, políticas, uso de herramientas, habilidades y subagentes. Incluye una sección sobre entrenamiento con refuerzo que abarca entornos, entrenador, rollout y recompensa, y cierra con enlaces a guías y materiales de referencia.
Cómo el batching asíncrono acelera la inferencia de LLM separando las cargas de CPU y GPU
Un artículo técnico del blog de Hugging Face explica cómo el batching continuo en la inferencia de modelos de lenguaje es por defecto síncrono, lo que deja a la GPU inactiva casi una cuarta parte del tiempo mientras la CPU prepara los lotes. Mediante streams y eventos de CUDA, doble buffer de tensores, un pool de memoria compartido para grafos CUDA y una técnica de arrastre de tokens, los autores separan las cargas de CPU y GPU para que se ejecuten en paralelo. El resultado es una utilización de GPU del 99,4% frente al 76,0% y una reducción del tiempo de generación de 300,6 a 234,5 segundos, una mejora del 22% sin cambios en kernels ni modelos.
Hugging Face presenta una Skill y un banco de pruebas para portar modelos de transformers a MLX con agentes de código
Hugging Face publicó una Skill y un banco de pruebas no agéntico para portar modelos de lenguaje de transformers a mlx-lm, de modo que queden disponibles casi al instante tras su incorporación a transformers. La herramienta asiste a colaboradores y revisores con andamiaje, verificación de configuraciones sensibles como RoPE y comparaciones numéricas por capa, y siempre declara que el PR fue asistido por agente. Los autores sostienen que el cuello de botella del código abierto es entender la base de código, no la velocidad de tipeo, y advierten sobre el aumento de PR generados por agentes que rompen contratos implícitos.
Google DeepMind lanza Gemma 4, su familia de modelos multimodales abiertos con soporte de audio y despliegue en dispositivo
Google DeepMind lanzó Gemma 4, su nueva familia de modelos multimodales abiertos bajo licencia Apache 2, disponibles en Hugging Face con soporte para transformers, llama.cpp, MLX, WebGPU y Rust. La familia incluye cinco tamaños (E2B, E4B, 12B Unified, 31B y 26B A4B) con ventanas de contexto de hasta 256K y capacidad de procesar imagen, texto y audio, pensados para despliegue en dispositivo. También se presentó DiffusionGemma, un modelo que genera texto por difusión con velocidades superiores a 1100 tokens por segundo, y borradores de predicción multi-token que aceleran la inferencia hasta tres veces.
TRL v1.0: la biblioteca de post-entrenamiento que se adapta a un campo en constante cambio
Hugging Face lanzó TRL v1.0, la versión estable de su biblioteca de post-entrenamiento para modelos de lenguaje, que implementa más de 75 métodos y se descarga 3 millones de veces al mes. La versión separa un núcleo estable con versionado semántico de una capa experimental, y prioriza implementaciones explícitas sobre abstracciones rígidas ante un campo que cambia rápido. Los próximos pasos incluyen GRPO asíncrono, la graduación de métodos como KTO y mejoras de escalado y de señales de entrenamiento legibles para agentes.
La biblioteca transformers refuerza su soporte para arquitecturas Mixture of Experts con carga de pesos dinámica y paralelismo de expertos
El artículo técnico del blog de Hugging Face detalla cómo la biblioteca transformers incorporó soporte de primera clase para arquitecturas Mixture of Experts (MoE), con una refactorización del pipeline de carga de pesos mediante WeightConverter, materialización perezosa de tensores y benchmarks que muestran cargas hasta seis veces más rápidas en la versión v5 frente a la v4. También presenta el sistema de backend de expertos conectable (eager, batched_mm, grouped_mm), el paralelismo de expertos con enable_expert_parallel y una colaboración con Unsloth que acelera el entrenamiento de MoE cerca de 12 veces con más de 35% de reducción de VRAM.
Hugging Face muestra cómo usar Claude para crear "skills" de agente que enseñan a modelos abiertos a escribir kernels CUDA
Un artículo del blog de Hugging Face, publicado el 28 de enero de 2026, presenta "upskill", una herramienta que usa modelos grandes como Claude Opus 4.5 para generar "skills" de agente y transferirlas a modelos abiertos o más pequeños. El caso demostrado es la escritura de kernels CUDA para modelos de diffusers, con mejoras de precisión de hasta 35% y 45% en modelos como GLM-4.7-Flash y Kimi-K2-Thinking. Los autores señalan que las skills no siempre mejoran el rendimiento y pueden aumentar el uso de tokens, por lo que recomiendan evaluarlas con upskill eval antes de desplegarlas.
Tokenización en Transformers v5: más simple, clara y modular
Hugging Face presentó Transformers v5, un rediseño del sistema de tokenización que separa la arquitectura del tokenizador del vocabulario entrenado, de forma análoga a cómo PyTorch separa la arquitectura de la red de los pesos aprendidos. La nueva versión unifica las implementaciones lenta y rápida en un solo archivo por modelo, con un backend Rust como predeterminado, y permite inspeccionar y entrenar tokenizadores específicos desde cero. El objetivo es hacer la biblioteca más modular, transparente y alineada con las prácticas de desarrollo de sistemas de machine learning.
Continuous batching desde los primeros principios: cómo optimizar la inferencia de LLM
Artículo técnico del blog de Hugging Face que explica desde los fundamentos el continuous batching, la técnica que permite servir modelos de lenguaje a muchos usuarios simultáneamente. Partiendo del mecanismo de atención y la caché KV, los autores derivan el prefill troceado y el ragged batching con planificación dinámica, y muestran cómo combinados maximizan el throughput y eliminan el desperdicio de relleno en la inferencia de LLM.
Hugging Face mejora el streaming de datasets: 100 veces menos peticiones y hasta el doble de velocidad
Hugging Face anunció mejoras en el streaming de datasets de su librería, logrando hasta 100 veces menos peticiones de inicio, resolución de archivos 10 veces más rápida y el doble de velocidad de streaming. Las optimizaciones incluyen caché persistente de archivos entre workers del DataLoader, prefetching para Parquet y buffering configurable. La compañía usa estas mejoras para entrenar sus modelos SmolVLM y nanoVLM, alcanzando velocidades comparables a la lectura desde SSD locales.
Potenciá tus pipelines de OCR con modelos abiertos
Hugging Face publicó una guía sobre modelos abiertos de OCR basados en modelos de visión-lenguaje, comparando opciones como Nanonets-OCR2, PaddleOCR-VL, dots.ocr, OlmOCR-2, Granite-Docling, DeepSeek-OCR, Chandra y Qwen3-VL. El artículo detalla capacidades como transcripción multilingüe, manejo de tablas y gráficos, formatos de salida y evaluación mediante benchmarks como OmniDocBench y OlmOCR-Bench. También aborda eficiencia de costos, conjuntos de datos abiertos y herramientas para ejecutar los modelos localmente o en la nube.
OCR de última generación con Core ML y dots.ocr: cómo llevar un modelo de 3B a la ejecución en dispositivo
El artículo técnico describe la conversión del modelo de OCR dots.ocr, de 3B parámetros y desarrollado por RedNote, para ejecutarse en dispositivo mediante Core ML y MLX de Apple. Los autores detallan el proceso de conversión de PyTorch a Core ML, la resolución de errores sucesivos en el grafo de ejecución y una evaluación inicial que arroja un modelo de más de 5 GB y más de un segundo por pasada del codificador de visión. El texto forma parte de una serie de tres partes sobre optimización para el Neural Engine.
Aceleran el agente Qwen3-8B en Intel Core Ultra con modelos borrador podados en profundidad
Investigadores de Intel y Hugging Face lograron acelerar el modelo Qwen3-8B en procesadores Intel Core Ultra mediante decodificación especulativa con un modelo borrador ligero Qwen3-0.6B, alcanzando una mejora de ~1,3×. Al podar 6 de las 28 capas del borrador y reajustarlo con datos sintéticos generados por Qwen3-8B, la aceleración subió a ~1,4×. La configuración se integró con la biblioteca smolagents para ejecutar agentes de IA locales que usan herramientas y ejecutan código de forma eficiente en una AI PC.
Swift Transformers alcanza la versión 1.0 y apunta al futuro con MLX y agentes
El equipo de Hugging Face anunció el lanzamiento de la versión 1.0 de swift-transformers, una biblioteca de Swift para integrar modelos de lenguaje locales en plataformas Apple Silicon, incluidos los iPhone. La versión consolida Tokenizers y Hub como módulos independientes, incorpora una nueva versión de swift-jinja mucho más rápida y adopta API modernas de Core ML con soporte para modelos con estado. El equipo anticipó que tras esta entrega se enfocará en MLX y en casos de uso agénticos, incluido el protocolo MCP.
Google lanza EmbeddingGemma, un modelo de embeddings multilingüe eficiente para dispositivos
Google lanzó EmbeddingGemma, un modelo de embeddings multilingüe de código abierto con 308 millones de parámetros y ventana de contexto de 2K tokens, pensado para uso en dispositivos. Soporta más de 100 idiomas y lidera el benchmark MMTEB entre modelos de menos de 500M de parámetros, con un consumo inferior a 200 MB de RAM cuantizado. El artículo detalla su arquitectura basada en Gemma3 con atención bidireccional, su integración con frameworks como Sentence Transformers, LangChain y Transformers.js, y un ajuste fino en el dominio médico que mejora el rendimiento en recuperación.
Pipeline eficiente de datos multimodales: cómo optimizar el entrenamiento de modelos de visión-lenguaje
El artículo describe cómo optimizar el pipeline de datos para entrenar modelos de visión-lenguaje, identificando que las GPU quedaban inactivas esperando datos y que el relleno desperdiciaba cerca del 60% de cada lote. Los autores proponen un enfoque en cinco etapas que culmina en un empaquetado tipo mochila equilibrado, inspirado en el artículo EAGLE 2 de NVIDIA, que reduce el relleno y distribuye mejor las muestras e imágenes entre lotes.
Aprendé a usar el Hugging Face Kernel Hub en 5 minutos
Hugging Face presentó el Kernel Hub, un repositorio que permite cargar kernels de cómputo optimizados directamente desde el Hub mediante la biblioteca kernels, evitando compilaciones manuales complejas. El artículo explica cómo usar get_kernel para descargar binarios precompilados de operaciones como FlashAttention, GELU y RMSNorm, con ejemplos de código y benchmarks que muestran aceleraciones de hasta casi 2x en GPUs L4. También detalla casos de uso en proyectos como Text Generation Inference y Transformers, y recomienda verificar la corrección numérica y el rendimiento en cada hardware.
Implementación de KV Cache desde cero en nanoVLM con una mejora del 38% en velocidad de generación
El equipo de nanoVLM, un repositorio de código abierto para entrenar modelos de visión-lenguaje con PyTorch puro, implementó KV Caching desde cero y logró una aceleración del 38% en la generación de texto. El artículo explica la redundancia computacional de la autoatención autorregresiva y detalla los cambios en el bloque de atención, el modelo de lenguaje y el bucle de generación, separando las fases de prefill y decode. La técnica reduce la inferencia por token a complejidad lineal en lugar de cuadrática, a costa de mayor uso de memoria y código más complejo.
SmolVLA: un modelo compacto de visión-lenguaje-acción entrenado con datos de la comunidad LeRobot
Hugging Face presentó SmolVLA, un modelo de visión-lenguaje-acción de 450 millones de parámetros, de código abierto, que se ejecuta en hardware de consumo y fue preentrenado solo con datos comunitarios de LeRobot. Según la empresa, supera a modelos VLA más grandes y a líneas base como ACT en simulación y en tareas reales con los brazos SO100 y SO101. Además, su inferencia asíncrona permite respuestas un 30% más rápidas y duplica el rendimiento de tareas.
Google lanza Gemma 3, su nuevo modelo de lenguaje abierto multimodal y multilingüe
Google lanzó Gemma 3, una nueva familia de modelos de lenguaje de pesos abiertos disponible en tamaños de 1B, 4B, 12B y 27B parámetros, con versiones preentrenadas y ajustadas por instrucciones. Los modelos de 4B, 12B y 27B son multimodales (procesan imágenes y texto), admiten más de 140 idiomas y tienen una ventana de contexto de hasta 128k tokens. Según la publicación, Gemma-3-27B-IT supera a Gemini 1.5-Pro en varios benchmarks y alcanza una puntuación Elo de 1339 en LMSys Chatbot Arena.
Guía práctica para ejecutar modelos de lenguaje (LLM) localmente en el teléfono con React Native
El artículo es un tutorial técnico publicado el 7 de marzo de 2025 por Mohamed Mekkouri y Marc Sun en el blog de Hugging Face, que explica cómo construir una aplicación móvil en React Native capaz de descargar y ejecutar modelos de lenguaje (LLM) localmente en un teléfono, tanto en Android como en iOS. Detalla la selección de modelos pequeños (1-3B parámetros) y formatos de cuantización GGUF, la configuración del entorno, la descarga de modelos desde el Hub de Hugging Face, la carga mediante llama.rn y la implementación de una interfaz de chat con inferencia local y privada. Incluye además secciones sobre depuración con Chrome DevTools y funcionalidades adicionales como generación token a token, desplazamiento automático y seguimiento de velocidad de inferencia.
Cohere For AI lanza Aya Vision, modelos de visión-lenguaje multilingües de 8B y 32B parámetros
Cohere For AI presentó Aya Vision, una familia de modelos de visión-lenguaje de pesos abiertos con 8B y 32B parámetros que busca llevar el rendimiento multilingüe a los modelos multimodales en 23 idiomas. Los modelos usan anotaciones sintéticas, ampliación de datos multilingües mediante traducción y reformulación, y fusión de modelos multimodales. Según la empresa, Aya Vision 32B supera a modelos más del doble de su tamaño como Llama-3.2 90B Vision, Molmo 72B y Qwen2.5-VL 72B, y el 8B lidera en su clase de parámetros; ambos se publican como pesos abiertos junto al benchmark AyaVisionBench.
- Saurabh Dash
- Yiyang Nan
- Arash Ahmadian
- John Dang
- Shivalika Singh
- Alejandro Salamanca
- Bharat Venkitesh
- Vlad Shmyhlo
- Walter Beller-Morales
- Jeremy Pekmez
- Jason Ozuzu
- Madeline Smith
- Marzieh Fadaee
- Manoj Govindassamy
- Sudip Roy
- Matthias Gallé
- Beyza Ermis
- Ahmet Üstün
- Sara Hooker
- Sungjin Hong
- Michael Kozakov
- Pierre Richemond
- Brittawnya Prince
- Jim Payne
- Kyle Lastovica
- Jeff Colen
- Jenna Cook
- Viraat Aryabumi
- Trent Fowler
- Linus Chui
- Meor Amer
- Lucas Fayoux
- Billy Trend
- Acyr Locatelli
- Morgan Norman
- Florian Strub
- Jon Ander Campos
- Nick Frosst
- Phil Blunsom
- Aidan Gomez
- Ivan Zhang
- Yoni Gozlan
- Arthur Zucker
- Pedro Cuenca
- Aritra Roy Gosthipaty
- Merve Noyan
- Vaibhav Srivastav
- Xuan-Son Nguyen