Ceguera polaridad en la seguridad de los LLM: Un estudio sistemático de negación, sustitución de antónimos y encuadre adversarial

Resumen del corpus

Un estudio sistemático investigó la ceguera de polaridad en los modelos de lenguaje grandes (LLM), demostrando que la negación y la sustitución de antónimos pueden socavar las salvaguardas de seguridad. Se encontró que esta debilidad afecta a la mayoría de los modelos evaluados, con puntuaciones de daño significativas en el modelo más vulnerable. El hallazgo sugiere una limitación en la robustez semántica general de los modelos, más que un fallo específico del lenguaje.

Periodista: Diego Miguel Lozano

Personas mencionadas
Noticia original

Ver todas las noticias de arXiv Computer Science AI