Exponiendo la ilusión de borrado en la edición de conocimiento para LLM

Resumen del corpus

Se examina la Edición de Conocimiento (KE) en LLM, descubriendo que el conocimiento editado no se borra completamente sino que persiste. El análisis revela que los métodos de actualización redistribuyen el conocimiento en el espacio del modelo y son vulnerables a ataques adversarios. Esto sugiere que los algoritmos de KE son inherentemente eludibles, lo que requiere una reevaluación de su implementación.

Periodista: Advik Raj Basani, Anshuman Chhabra

Personas mencionadas
Noticia original

Ver todas las noticias de arXiv Computer Science AI