ZeroGraph: Entrenamiento por bloques composicional mediante supervisión de límites materializados

Resumen del corpus

Se presenta ZeroGraph, una transformación de sistemas para convertir y destilar modelos preentrenados. Esta técnica materializa la trayectoria de frontera de un modelo profesor congelado como un conjunto de datos versionado para reemplazar las dependencias de gradiente en línea con supervisión persistente. Los experimentos demuestran que esta aproximación puede mejorar la calidad y el uso de contexto en modelos como GPT-2 Large y Qwen2.5.

Noticia original

Ver todas las noticias de arXiv Computer Science AI