Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
Aprendé a usar el Hugging Face Kernel Hub en 5 minutos
Hugging Face presentó el Kernel Hub, un repositorio que permite cargar kernels de cómputo optimizados directamente desde el Hub mediante la biblioteca kernels, evitando compilaciones manuales complejas. El artículo explica cómo usar get_kernel para descargar binarios precompilados de operaciones como FlashAttention, GELU y RMSNorm, con ejemplos de código y benchmarks que muestran aceleraciones de hasta casi 2x en GPUs L4. También detalla casos de uso en proyectos como Text Generation Inference y Transformers, y recomienda verificar la corrección numérica y el rendimiento en cada hardware.
Hugging Face presenta grandes actualizaciones de su proyecto Kernels con foco en seguridad y desarrollo agéntico
Hugging Face publicó una actualización mayor de su proyecto Kernels, que estandariza el empaquetado, distribución y consumo de kernels personalizados. Se introdujo un nuevo tipo de repositorio "kernel" en el Hub, junto con capas de seguridad como publicadores de confianza y firma de código mediante cosign de Sigstore. También se renovaron las CLIs, se amplió el soporte de frameworks como Torch Stable ABI y Apache TVM FFI, y se sentaron bases para el desarrollo agéntico de kernels.
Kernels personalizados para todos: Codex y Claude escriben kernels CUDA de producción
Investigadores de Hugging Face crearon una skill de agente que enseña a herramientas de programación con IA como Claude y Codex a escribir kernels CUDA de producción. La probaron en un pipeline de diffusers (LTX-Video) y un modelo de transformers (Qwen3-8B) en GPU H100, logrando aceleraciones de hasta 1.94x en benchmarks aislados de RMSNorm y mejoras de extremo a extremo. Los kernels pueden publicarse en el Kernel Hub para cargarse con una sola línea de código.
MaxKernel: Generación de kernels agenticos para TPUs
Se presenta MaxKernel, un sistema multi-agente diseñado para la generación de kernels de TPU mediante LLMs y retroalimentación del compilador. El sistema incluye tres paradigmas: Human-in-the-Loop, un agente Autónomo basado en optimización y una Búsqueda Autónoma Basada en Grafos. Se demuestra que MaxKernel genera implementaciones altamente optimizadas que igualan las líneas de base expertas en benchmarks de kernels de TPU.
KernelOPT: Búsqueda Agentica con Conciencia de Despacho para Optimización de Kernels de GPU
Se presenta KernelOPT, un sistema multi-agente guiado por perfilado diseñado para optimizar kernels de GPU. El sistema inspecciona kernels Triton y llamadas a bibliotecas para refinar la síntesis y evaluación del modelo resultante. KernelOPT logró aumentos geométricos de velocidad de hasta 2.54$\times$ en problemas de nivel 1.
Hugging Face lanza @huggingface/kernels: más de 200 kernels WebGPU para IA local en el navegador
Hugging Face presentó @huggingface/kernels, una biblioteca mínima en JavaScript para cargar y ejecutar kernels WebGPU optimizados desde el Hub, junto con una colección inicial de 207 kernels bajo licencia Apache-2.0. Según la compañía, en pruebas sobre una GPU Apple M4 los kernels fueron 2,57 veces más rápidos en media geométrica que ORT WebGPU en 809 casos comparables. También lanzó Fleet, una suite de benchmarking en navegador que recopila evidencia de rendimiento y corrección en hardware real de la comunidad.
Creación de kernels personalizados para la AMD MI300
Hugging Face y AMD colaboraron para desarrollar kernels de código abierto optimizados para la GPU AMD MI300X, con el objetivo de acelerar la inferencia del modelo Llama 3.1 405B en FP8 usando VLLM. El artículo detalla la optimización de tres kernels (norma RMS fusionada, SwiGLU y GEMM skinny), logrando aceleraciones de hasta 14 veces frente a Torch y mejoras de entre 27% y 100% frente a VLLM. Los kernels están disponibles en el repositorio hf-rocm-kernels y se integrarán en la bifurcación de AMD de VLLM.
Rocky Linux Creator Construyó un Nuevo Kernel 'No Linux' en 11 Días Usando IA
Gregory Kurtzer, conocido por crear CentOS y Rocky Linux, ha desarrollado un nuevo kernel de sistema operativo llamado Ginux utilizando una inteligencia artificial. Este kernel es independiente del kernel de Linux, escrito en Rust, y posee su propia gestión de memoria, programador, sistemas de archivos y soporte de dispositivos. Aunque no es Linux, es compatible con la ABI de Linux, lo que permite ejecutar binarios de Linux existentes en él. Actualmente, Ginux solo se ejecuta en una máquina virtual QEMU sin soporte para hardware físico avanzado.
Linux está obteniendo una herramienta que causa fallos en el sistema de forma intencionada
Se presenta una nueva herramienta en el kernel de Linux llamada hwpoison-panic diseñada para inducir fallos de memoria intencionales. Esta herramienta permite a los desarrolladores probar la respuesta del kernel ante errores de memoria irrecuperables, simulando fallos de hardware para verificar la estabilidad del sistema. El objetivo es que el kernel realice un pánico inmediato, lo cual es crucial para el desarrollo y la depuración de sistemas operativos.
Hugging Face facilita la creación y el intercambio de kernels ROCm para GPUs AMD
Hugging Face publicó una guía para compilar, probar y compartir kernels ROCm compatibles con GPUs AMD usando su biblioteca kernels y la herramienta kernel-builder. El ejemplo es el kernel GEMM en FP8 de RadeonFlow, premiado en el AMD Developer Challenge 2025 y optimizado para la GPU AMD Instinct MI300X. El flujo incluye estructura de proyecto, archivos build.toml y flake.nix, compilación reproducible con Nix, registro como operador nativo de PyTorch y carga al Hub para su uso con pocas líneas de código.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «Kernel»
Más recientes primero · Hasta 30 noticias por página
Kernels personalizados para todos: Codex y Claude escriben kernels CUDA de producción
Investigadores de Hugging Face crearon una skill de agente que enseña a herramientas de programación con IA como Claude y Codex a escribir kernels CUDA de producción. La probaron en un pipeline de diffusers (LTX-Video) y un modelo de transformers (Qwen3-8B) en GPU H100, logrando aceleraciones de hasta 1.94x en benchmarks aislados de RMSNorm y mejoras de extremo a extremo. Los kernels pueden publicarse en el Kernel Hub para cargarse con una sola línea de código.
Hugging Face facilita la creación y el intercambio de kernels ROCm para GPUs AMD
Hugging Face publicó una guía para compilar, probar y compartir kernels ROCm compatibles con GPUs AMD usando su biblioteca kernels y la herramienta kernel-builder. El ejemplo es el kernel GEMM en FP8 de RadeonFlow, premiado en el AMD Developer Challenge 2025 y optimizado para la GPU AMD Instinct MI300X. El flujo incluye estructura de proyecto, archivos build.toml y flake.nix, compilación reproducible con Nix, registro como operador nativo de PyTorch y carga al Hub para su uso con pocas líneas de código.
De cero a GPU: guía para construir y escalar kernels CUDA listos para producción
Hugging Face publicó una guía técnica para construir kernels CUDA personalizados listos para producción usando su biblioteca kernel-builder. El artículo detalla ocho pasos, desde la estructura del proyecto y el manifiesto build.toml hasta el registro de operadores nativos de PyTorch, la compilación con Nix y la publicación en el Hub. También aborda desafíos de producción como el versionado semántico, el bloqueo de dependencias y la generación de ruedas Python para el despliegue.
Aprendé a usar el Hugging Face Kernel Hub en 5 minutos
Hugging Face presentó el Kernel Hub, un repositorio que permite cargar kernels de cómputo optimizados directamente desde el Hub mediante la biblioteca kernels, evitando compilaciones manuales complejas. El artículo explica cómo usar get_kernel para descargar binarios precompilados de operaciones como FlashAttention, GELU y RMSNorm, con ejemplos de código y benchmarks que muestran aceleraciones de hasta casi 2x en GPUs L4. También detalla casos de uso en proyectos como Text Generation Inference y Transformers, y recomienda verificar la corrección numérica y el rendimiento en cada hardware.
Liger GRPO se integra con TRL para reducir un 40% la memoria en el entrenamiento de modelos de lenguaje
El equipo de Hugging Face TRL integró Liger Kernel con el entrenador GRPO, logrando una reducción del 40% en el uso máximo de memoria de GPU durante el ajuste fino de modelos de lenguaje con aprendizaje por refuerzo, sin pérdida de calidad. La optimización fragmenta el cálculo de logits y acumula gradientes por fragmento, y se suma soporte para FSDP, PEFT y vLLM para escalar el entrenamiento en múltiples GPU y nodos. Los benchmarks con Qwen3-0.6B muestran que el tamaño de lote puede aumentar entre 1,5 y 1,8 veces.