Ceguera polaridad en la seguridad de los LLM: Un estudio sistemático de negación, sustitución de antónimos y encuadre adversarial
Resumen del corpus
Un estudio sistemático investigó la ceguera de polaridad en los modelos de lenguaje grandes (LLM), demostrando que la negación y la sustitución de antónimos pueden socavar las salvaguardas de seguridad. Se encontró que esta debilidad afecta a la mayoría de los modelos evaluados, con puntuaciones de daño significativas en el modelo más vulnerable. El hallazgo sugiere una limitación en la robustez semántica general de los modelos, más que un fallo específico del lenguaje.
Tags
Personas mencionadas
Noticia original