SearchInject: Control de exposición de recuperación para inyección de prompts indirectos en modelos de lenguaje

Resumen del corpus

Se presenta SearchInject, un mecanismo para controlar la exposición de inyección de prompts indirectos en modelos de lenguaje grandes aumentados con búsqueda. El sistema combina la relevancia de la recuperación, señales de abuso y probabilidad de instrucción para gestionar la decisión de admisión. Los resultados demuestran reducciones significativas en la exposición de la entrada en diferentes métodos de recuperación.