Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
3 resultados para «Benjamin Bossan»
Más recientes primero · Hasta 30 noticias por página
Más allá de LoRA: ¿se puede superar la técnica de ajuste fino más popular?
Un artículo técnico de Hugging Face analiza si LoRA, la técnica de ajuste fino eficiente en parámetros más usada, es realmente la mejor opción. Sus benchmarks muestran que LoRA funciona bien pero otras técnicas como OFT o Lily la superan en precisión o uso de memoria según la tarea. Los autores recomiendan evaluar múltiples técnicas PEFT con la misma API en lugar de adoptar LoRA por defecto.
Inferencia rápida de LoRA para Flux con Diffusers y PEFT
Publicación técnica de Hugging Face que detalla una receta de optimización para acelerar la inferencia de adaptadores LoRA en el modelo de generación de imágenes Flux.1-Dev, combinando Flash Attention 3, torch.compile y cuantización FP8, con soporte para hotswapping sin recompilación. En GPUs de gama alta como la H100 se logra una aceleración de 2.23x, mientras que en GPUs de consumo como la RTX 4090 se alcanza 2.04x mediante cuantización del codificador T5 y compilación regional.
Copiloto personal: entrená tu propio asistente de programación
Publicación técnica de Hugging Face que explica cómo crear HugCoder, un modelo de lenguaje para código ajustado finamente con los repositorios públicos de la organización. Detalla el flujo de recolección de datos, la comparación entre ajuste fino completo con FSDP en 8 GPUs A100 y QLoRA en una sola A100 40GB, con costos de 108 y 13,75 dólares respectivamente. También aborda la combinación y transferencia de adaptadores LoRA, la integración con VS Code mediante Inference Endpoints y la ejecución local de un modelo de 1B parámetros.