Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias por palabras en títulos, resúmenes, temas, personas, lugares o firmas.
Resultados para «Bhanushali»
Más recientes primero · Hasta 30 noticias por página
Hugging Face BlogPerfilado en PyTorch (Parte 3): La atención es todo lo que perfilás
Tercera entrega de la serie "Profiling in PyTorch", que enseña a leer trazas del perfilador para optimizar código. Se perfilan distintas implementaciones de atención: la ingenua escrita a mano, la variante con enmascaramiento in situ, y los backends de SDPA (math, efficient, flash y cuDNN). El backend math resulta 3.7 veces más lento por usar FP32 en núcleos CUDA y reconstruir la máscara en cada llamada, mientras que flash y efficient logran un único kernel fusionado en bf16 sobre Tensor Cores.
Perfilado en PyTorch (Parte 1): guía para principiantes de torch.profiler
Entrada de blog de Hugging Face que inaugura una serie sobre perfilado en PyTorch, centrada en el uso de torch.profiler para leer trazas de CPU y GPU. Explica con ejemplos de multiplicación y suma de matrices cómo distinguir algoritmos limitados por sobrecarga de los limitados por cómputo, interpretar la tabla del perfilador y la cadena de despacho hasta los kernels de CUDA. También analiza el efecto de torch.compile, que fusiona operaciones a nivel del despachador pero no genera un kernel único y aumenta la sobrecarga de CPU por paso.