OCR de última generación con Core ML y dots.ocr: cómo llevar un modelo de 3B a la ejecución en dispositivo

Resumen del corpus

El artículo técnico describe la conversión del modelo de OCR dots.ocr, de 3B parámetros y desarrollado por RedNote, para ejecutarse en dispositivo mediante Core ML y MLX de Apple. Los autores detallan el proceso de conversión de PyTorch a Core ML, la resolución de errores sucesivos en el grafo de ejecución y una evaluación inicial que arroja un modelo de más de 5 GB y más de un segundo por pasada del codificador de visión. El texto forma parte de una serie de tres partes sobre optimización para el Neural Engine.