Cómo entrenar un modelo de embeddings específico de dominio en menos de un día con una sola GPU
Resumen del corpus
NVIDIA publicó una guía para ajustar un modelo de embeddings de propósito general (Llama-Nemotron-Embed-1B-v2) a un dominio específico en menos de un día y con una sola GPU, sin etiquetado manual. El método combina generación de datos sintéticos con un LLM, minería de negativos duros, consultas multi-salto y evaluación con BEIR, logrando mejoras de alrededor del 10% en Recall@10 y NDCG@10. Atlassian aplicó la receta a su dataset de Jira y elevó Recall@60 de 0.751 a 0.951, un 26,7% de mejora.