El precio de la seguridad: Utilidad benigna y sobrecarga de tokens de defensas de envenenamiento de memoria en agentes LLM

Resumen del corpus

El estudio evalúa el costo de utilidad benigna y la sobrecarga de tokens de las defensas de envenenamiento de memoria para agentes LLM cuando no hay ataques. Se probaron cuatro defensas en la mitad de LoCoMo, encontrando que la detección de anomalías y la condición apilada mejoraron la precisión. Se reporta el costo de tokens asociado a estas defensas, indicando que la detección de anomalías tuvo un 1.5% de sobrecarga.

Periodista: Pritom Bhowmik

Personas mencionadas
Noticia original

Ver todas las noticias de arXiv Computer Science AI