Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
3 resultados para «Chunte Lee»
Más recientes primero · Hasta 30 noticias por página
Hugging Face BlogCómo acelerar los Spaces ZeroGPU de Hugging Face con compilación anticipada de PyTorch
Hugging Face publicó una guía técnica para acelerar los Spaces ZeroGPU mediante compilación anticipada (AoT) de PyTorch, evitando la compilación en tiempo de ejecución que no se adapta a los procesos efímeros de ZeroGPU. El método exporta y compila el transformer una sola vez, logrando aceleraciones de 1,3× a 1,8× en modelos como Flux, Wan y LTX, y de 1,75× con FlashAttention-3. También detalla trucos como cuantización FP8, formas dinámicas y compilación regional, que reduce el tiempo de compilación de 6 minutos a 30 segundos.
Generación asistida: una nueva dirección hacia la generación de texto de baja latencia
Hugging Face presentó la generación asistida, un nuevo método de decodificación que reduce hasta 10 veces la latencia en la generación de texto con modelos de lenguaje grandes. La técnica usa un modelo asistente más pequeño que propone tokens candidatos, que el modelo principal valida en una sola pasada forward, aprovechando que el cuello de botella está en el ancho de banda de memoria y no en el cómputo. Funciona mejor en tareas basadas en la entrada como reconocimiento de voz o sumarización, y ya está disponible en la biblioteca Transformers.
El estado de la visión por computadora en Hugging Face
Hugging Face publicó un balance del estado de la visión por computadora en su ecosistema, con 8 tareas centrales de visión, más de 3000 modelos y más de 100 datasets en su Hub. El artículo detalla el soporte para Pipelines, el entrenamiento de modelos propios, las integraciones con timm, Diffusers y Datasets, y las herramientas para demos en Spaces y AutoTrain. También describe la filosofía técnica, los modelos zero-shot como CLIP, OWL-ViT y CLIPSeg, y las opciones de despliegue mediante Inference Endpoints.