Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
1 resultado para «Colin Gallagher»
Más recientes primero · Hasta 30 noticias por página
The RegisterHPE pone el almacenamiento a trabajar en el caro problema de memoria de la IA
HPE está abordando el problema de la memoria de GPU en la IA mediante la tecnología Alletra MP X10000, que ofrece una caché KV para reutilizar el estado de inferencia. Pruebas validadas demuestran que esta solución puede lograr hasta 20 veces más rápido el tiempo hasta el primer token y un 17 veces mayor rendimiento de inferencia efectivo al evitar el recálculo repetitivo de la memoria de GPU. Esto aborda la necesidad de manejar contextos largos y múltiples agentes en cargas de trabajo de IA complejas.