Alineación de seguridad árabe como rechazo selectivo: Un estudio empírico de SFT, DPO y calibración de guardias

Resumen del corpus

Un estudio empírico evalúa cómo los modelos de lenguaje grandes árabes deben manejar el rechazo de indicaciones dañinas frente a indicaciones benignas o sensibles. Se compara el rendimiento de diferentes técnicas de ajuste fino (SFT y DPO) y guardias de inferencia para determinar el mejor punto de operación para la seguridad. Los resultados sugieren que la selección del punto de operación del modelo es clave para mejorar la seguridad.

Periodista: Mohamad Zbib, Mohamad Bazzi, Ammar Mohanna

Personas mencionadas
Noticia original

Ver todas las noticias de arXiv Computer Science AI