Cuantización de Precisión Amortizada para Vision Transformers con Salida Temprana
Resumen del corpus
Se presenta la Cuantización de Precisión Amortizada (APQ) y el marco MOQEE para Vision Transformers, buscando mejorar la estabilidad de la inferencia mediante la optimización conjunta de umbrales de salida y anchos de bits. Este enfoque establece una frontera de Pareto superior en el equilibrio entre precisión y eficiencia para tareas de clasificación y detección. Los modelos probados muestran mejoras significativas en el rendimiento de la GPU en diferentes benchmarks.
Tags
Personas mencionadas
Noticia original