Buscar noticias
Buscá por texto y descubrí noticias relacionadas con tu consulta.
Noticias relevantes
Hasta 10 noticias relacionadas por su significado, ordenadas por relevancia.
No encontramos noticias relacionadas por su significado.
Noticias encontradas
Coincidencias en título, descripción, resumen, tags, personas o periodista.
1 resultado para «Youwei Feng»
Más recientes primero · Hasta 30 noticias por página
arXiv Computer Science AIAcciones seguras por sí solas no garantizan agentes seguros: Identificando obligaciones no cumplidas con modelos de guardia
Se argumenta que la seguridad de los agentes basados en LLM depende no solo de identificar acciones prohibidas, sino también de identificar obligaciones de seguridad críticas no cumplidas. Se presenta ObligationBench, un nuevo *benchmark* para evaluar la identificación de estas obligaciones, y ObligationGuard, un modelo que mejora significativamente la capacidad de identificación de obligaciones. El estudio sugiere que la identificación de obligaciones no cumplidas es una fuente de riesgo de seguridad subestimada en los agentes.