Cómo entrenar y ajustar modelos de embeddings multi-vector con Sentence Transformers

Resumen del corpus

El artículo técnico de Tom Aarsen explica cómo entrenar y ajustar modelos de embeddings multi-vector (estilo ColBERT) con la biblioteca Sentence Transformers, cuya versión 6.0 incorpora el tipo MultiVectorEncoder. Detalla componentes como datasets, funciones de pérdida, argumentos de entrenamiento, evaluadores y el trainer, y muestra que un modelo ajustado en dominio médico (mLateOn-medical) superó a recuperadores de propósito general tras 14,5 horas de entrenamiento en una RTX 3090. También aborda la optimización del índice mediante pooling de tokens y cuantización PLAID para reducir el tamaño de almacenamiento.