Prune-and-Merge: Escalado sin entrenamiento de Vision Transformers

Resumen del corpus

Se presenta Prune-and-Merge ViT, un marco sin entrenamiento para reducir la redundancia en Vision Transformers mediante poda basada en atención y fusión basada en similitud. Este método busca mejorar la eficiencia computacional manteniendo la robustez y la precisión de los modelos existentes. El análisis demuestra que la reducción híbrida de tokens mantiene la estabilidad de la predicción ante transformaciones comunes de imágenes.