Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
2 resultados para «Derek Thomas»
Más recientes primero · Hasta 30 noticias por página
Hugging Face BlogCómo procesar mil millones de clasificaciones o embeddings diarios sin disparar el costo en la nube
El artículo analiza cómo procesar más de mil millones de clasificaciones o embeddings diarios de forma rentable, comparando arquitecturas de modelos encoder y opciones de hardware en la nube. Con la GPU NVIDIA L4 a 0,80 dólares por hora, el costo de mil millones de entradas fue de 253,82 dólares para clasificación de texto, 409,44 para embeddings de texto y 44.496,51 para embeddings de visión estilo ColBERT. El autor concluye que el hardware, el tamaño de lote y el paralelismo de usuarios virtuales son claves para optimizar costo y latencia.
Hugging Face explica cómo desplegar su sistema de voz a voz en Inference Endpoints
Hugging Face publicó una guía para desplegar su proyecto Speech-to-Speech (S2S), una tubería en cascada que combina detección de actividad de voz, voz a texto, modelo de lenguaje y texto a voz, con soporte para inglés, francés, español, chino, japonés y coreano. El artículo detalla cómo construir una imagen Docker personalizada a partir del repositorio huggingface-inference-toolkit y desplegarla en Inference Endpoints, tanto por interfaz gráfica como por API. Se recomienda hardware AWS GPU L4 a 0,80 dólares por hora y se explica la implementación de un servidor web con websockets y un cliente para grabar y reproducir audio.