Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
Hugging Face BlogThinking Machines lanza Inkling, un modelo abierto multimodal de un billón de parámetros
Thinking Machines Lab lanzó Inkling, un modelo de lenguaje multimodal abierto de aproximadamente un billón de parámetros y ventana de contexto de un millón de tokens, que acepta texto, imágenes y audio de forma nativa. También presentó Inkling-Small, de 276.000 millones de parámetros totales y 12.000 millones activos, con la misma arquitectura. El modelo tiene soporte desde el primer día en transformers, SGLang, vLLM y llama.cpp, y se ofrece en versiones BF16 y NVFP4, además de borradores de predicción multi-token para acelerar la inferencia.
Cómo Hugging Face optimizó la inferencia de BLOOM con una reducción de latencia de 5x
El artículo detalla el proceso de optimización del servidor de inferencia del modelo BLOOM de 176.000 millones de parámetros, desarrollado por Hugging Face y BigScience. El equipo logró reducir la latencia de 350 ms/token a 71 ms/token y multiplicar por 50 el throughput, combinando paralelismo de tensores, kernels personalizados, torch.jit.script y un servidor web en Rust y Python. También relata fracasos como mediciones erróneas por un profiler olvidado y las dificultades de estabilidad con DeepSpeed.
Mini-R1: reproducen el "momento ajá" de DeepSeek R1 con un tutorial de aprendizaje por refuerzo
Philipp Schmid publicó un tutorial que reproduce el "momento ajá" de DeepSeek-R1 entrenando un modelo Qwen2.5-3B-Instruct con Group Relative Policy Optimization (GRPO) para resolver el Juego de la Cuenta Regresiva. El entrenamiento distribuido usó DeepSpeed y vLLM sobre 4 GPU NVIDIA H100, con 450 pasos en unas 6 horas. La tasa de éxito pasó de ~25% a los 100 pasos a 50% a los 450 pasos, y el modelo migró de un razonamiento "con palabras" a uno de tipo programático.
Inferencia rápida de LoRA para Flux con Diffusers y PEFT
Publicación técnica de Hugging Face que detalla una receta de optimización para acelerar la inferencia de adaptadores LoRA en el modelo de generación de imágenes Flux.1-Dev, combinando Flash Attention 3, torch.compile y cuantización FP8, con soporte para hotswapping sin recompilación. En GPUs de gama alta como la H100 se logra una aceleración de 2.23x, mientras que en GPUs de consumo como la RTX 4090 se alcanza 2.04x mediante cuantización del codificador T5 y compilación regional.
arXiv Computer Science AIImportar lo necesario: Aprender cuándo y cómo aumentar los gráficos de EHR con conocimiento externo
Se propone ReTA, un marco basado en aprendizaje por refuerzo para aumentar los gráficos de registros de salud electrónicos (EHR) con conocimiento externo. Este marco busca mejorar la predicción longitudinal al abordar la escasez de datos y la irregularidad de las trayectorias de los pacientes. Los experimentos demuestran que ReTA supera a las líneas de base existentes manteniendo la eficiencia y ofreciendo patrones de aumentación interpretables.
Entrenamiento y ajuste fino de modelos reranker con Sentence Transformers
El artículo técnico de Tom Aarsen explica cómo entrenar y ajustar modelos reranker (cross-encoder) con la biblioteca Sentence Transformers, detallando componentes como datasets, funciones de pérdida, minería de negativos duros, argumentos de entrenamiento y evaluadores. Se presentan ejemplos prácticos con el dataset GooAQ y se demuestra que un modelo pequeño ajustado (tomaarsen/reranker-ModernBERT-base-gooaq-bce) supera a 13 rerankers públicos, incluso a modelos cuatro veces más grandes. La conclusión es que el ajuste fino en un dominio específico mejora el rendimiento de búsqueda y reduce la latencia.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «Intro»
Más recientes primero · Hasta 30 noticias por página
American Songwriter4 letras de canciones de éxito de un solo lanzamiento de 1993 que todo adolescente de los 90 recuerda
La noticia destaca cuatro letras de canciones de éxito de un solo lanzamiento de 1993 que son recordadas por los jóvenes de los 90. Menciona éxitos de Onyx, Queen Latifah, Intro y Mazzy Star, señalando su impacto en la cultura musical de la época.
KotakuLa Intro Famosa del Silent Hill Original Sigue Siendo el Momento Más Aterrador que He Experimentado en un Juego
Un jugador relata que la introducción del juego Silent Hill original sigue siendo el momento más aterrador que ha experimentado en cualquier videojuego. La experiencia comenzó con una advertencia de contenido violento y perturbador, seguida por una atmósfera de niebla, sonidos inquietantes y una sensación creciente de nerviosismo y pánico mientras el protagonista exploraba el entorno. La secuencia culminó con encuentros aterradores y un final abrupto, lo que lo llevó a decidir nunca más jugar el título original.