Cuantización de Precisión Amortizada para Vision Transformers con Salida Temprana

Resumen del corpus

Se presenta la Cuantización de Precisión Amortizada (APQ) y el marco MOQEE para Vision Transformers, buscando mejorar la estabilidad de la inferencia mediante la optimización conjunta de umbrales de salida y anchos de bits. Este enfoque establece una frontera de Pareto superior en el equilibrio entre precisión y eficiencia para tareas de clasificación y detección. Los modelos probados muestran mejoras significativas en el rendimiento de la GPU en diferentes benchmarks.

Periodista: Rui Fang, Hsi-Wen Chen, Ming-Syan Chen

Personas mencionadas
Noticia original

Ver todas las noticias de arXiv Computer Science AI