Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
4 resultados para «Lysandre Debut»
Más recientes primero · Hasta 30 noticias por página
Hugging Face BlogTransformers ahora ejecuta cuantizaciones de llama.cpp
Hugging Face incorporó soporte para ejecutar modelos en formato GGUF, el estándar de cuantización de llama.cpp, dentro de la librería transformers. La integración reutiliza los kernels ggml de llama.cpp y optimiza el bucle de generación para acercar el rendimiento a esa herramienta en Apple Silicon, comenzando por la arquitectura Qwen3.5. El objetivo es facilitar la inferencia local en Python y PyTorch, aunque la ruta empaquetada es por ahora solo para MPS y con cobertura limitada de arquitecturas.
Continuous batching desde los primeros principios: cómo optimizar la inferencia de LLM
Artículo técnico del blog de Hugging Face que explica desde los fundamentos el continuous batching, la técnica que permite servir modelos de lenguaje a muchos usuarios simultáneamente. Partiendo del mecanismo de atención y la caché KV, los autores derivan el prefill troceado y el ragged batching con planificación dinámica, y muestran cómo combinados maximizan el throughput y eliminan el desperdicio de relleno en la inferencia de LLM.
timm y transformers se integran para usar cualquier modelo de visión con el ecosistema de Hugging Face
Hugging Face presentó TimmWrapper, una integración que permite usar cualquier modelo de la biblioteca timm (PyTorch Image Models) dentro del ecosistema transformers. La herramienta habilita la API de pipeline, las clases Auto, cuantización rápida con bitsandbytes, ajuste fino con Trainer y LoRA, compatibilidad de ida y vuelta con timm y aceleración mediante torch.compile. El anuncio incluye ejemplos de clasificación de imágenes, una demo con Gradio y una reducción de tamaño de modelo del 74,53% al cuantizar.
El estado de la visión por computadora en Hugging Face
Hugging Face publicó un balance del estado de la visión por computadora en su ecosistema, con 8 tareas centrales de visión, más de 3000 modelos y más de 100 datasets en su Hub. El artículo detalla el soporte para Pipelines, el entrenamiento de modelos propios, las integraciones con timm, Diffusers y Datasets, y las herramientas para demos en Spaces y AutoTrain. También describe la filosofía técnica, los modelos zero-shot como CLIP, OWL-ViT y CLIPSeg, y las opciones de despliegue mediante Inference Endpoints.