Robustez de señales internas para la detección de alucinaciones en modelos vision-lenguaje
Resumen del corpus
Se analiza la robustez de los métodos que utilizan señales internas de los modelos vision-lenguaje (VLM) para detectar alucinaciones en la generación de texto. Se demuestra que la dependencia de la posición del token puede reducir la robustez de los métodos de detección, especialmente cuando las alucinaciones ocurren al inicio de la respuesta. Se concluye que, aunque existen señales internas útiles, los métodos actuales tienen limitaciones significativas.
Tags
Personas mencionadas
Noticia original