It Takes Two: Auto-destilación complementaria para la integridad contextual en LLMs

Resumen del corpus

Se propone SELFCI, un marco de auto-destilación complementaria para mejorar la Integridad Contextual (CI) en modelos de lenguaje grandes (LLMs). Este marco optimiza la supresión de información y la resolución de tareas para equilibrar la utilidad y la privacidad. Evaluaciones empíricas muestran que SELFCI supera a métodos competitivos sin requerir supervisión externa costosa.