ProvenanceGuard: verificación de fuentes para agentes LLM basados en MCP
Resumen del corpus
Investigadores de Multiverse Computing presentaron ProvenanceGuard, una capa de verificación posterior a la generación para agentes LLM basados en MCP que comprueba no solo si una afirmación está respaldada, sino si lo está por la fuente que la respuesta nombra o implica. El sistema detecta la "conflación entre fuentes", un fallo en el que un dato verdadero se atribuye a la herramienta equivocada. En pruebas con 361 afirmaciones médicas, detectó 138 de las 139 que los expertos consideraron no debían pasar, con un F1 de 0.802, superando a verificadores ciegos a la fuente como MiniCheck, RAGAS, AlignScore y SummaC.
Tags
Personas mencionadas
Noticia original