Anthropic desarrolla un sistema para verificar la identidad de modelos de IA

Resumen del corpus

Anthropic está desarrollando un sistema de código abierto llamado FlashProve para verificar criptográficamente la identidad de los modelos de IA que generan salidas específicas. Este sistema busca asegurar que una respuesta provenga del modelo declarado, protegiendo contra la suplantación de modelos. El sistema requiere que los laboratorios publiquen "huellas dactilares" de sus modelos para permitir esta verificación.

Periodista: Russell Brandom

Personas mencionadas
Noticia original

Ver todas las noticias de TechCrunch