Ataque Step-Zero: Seguridad del agente antes de la observabilidad

Resumen del corpus

Se describe un ataque llamado Step-Zero que ocurre antes de que el contenido entre en el contexto del modelo, afectando la seguridad de los agentes de codificación. Se encontró que muchos pares de implementación-modelo excedieron los límites de presupuesto, indicando que el daño ocurre en la fase inicial de procesamiento. Se sugiere implementar mecanismos de defensa en el primitivo de procesamiento para asegurar que los agentes inspeccionen la entrada antes de su procesamiento.