Anthropic presenta FlashProve, un sistema para verificar qué modelo de IA generó una respuesta
Anthropic presenta FlashProve, un sistema de código abierto que verifica criptográficamente qué modelo de IA generó una respuesta, sin revelar sus pesos.
Anthropic trabaja en FlashProve, un sistema de código abierto que permite verificar si una respuesta procede del modelo de inteligencia artificial que se utilizó para generarla. La herramienta busca que evaluadores independientes y clientes puedan confirmar que los tokens provienen del modelo por el que pagaron o que están evaluando.
Según la compañía, el sistema se basa en lo que denomina «inferencia demostrable», es decir, una prueba criptográfica que acredita que una respuesta ha sido generada por un determinado modelo. Anthropic reconoce que, en la mayoría de los casos, la cuestión «no es preocupante», aunque en otros supuestos resulta de gran ayuda.
La empresa pone como ejemplos a los evaluadores independientes que prueban modelos antes y después de su despliegue, que necesitan saber que el modelo analizado es el que se ha servido. También menciona a los clientes que acceden a un modelo a través de un servicio de enrutamiento de terceros, que quieren asegurarse de que los tokens proceden del modelo contratado. Anthropic subraya que el objetivo es que un usuario con recursos computacionales limitados, y sin acceso a los pesos del modelo, pueda comprobar el origen de una respuesta.
Técnicamente, FlashProve implementa la inferencia demostrable mediante un «argumento sucinto de conocimiento cero» (zero-knowledge succinct argument). El proveedor envía, junto a la respuesta, una prueba corta que el usuario puede verificar rápidamente y que no revela los pesos del modelo. Según los datos facilitados, el prototipo de investigación genera estas pruebas con una sola GPU H100 a un ritmo de 110 tokens por segundo, y cada paquete de 1.024 tokens ocupa 19 MB. La verificación puede realizarse en un ordenador convencional en segundos, incluso de forma local.
Anthropic considera que este avance tiene implicaciones significativas para la seguridad, el ritmo de desarrollo de la IA, la garantía de integridad para los clientes y la labor de auditores y reguladores, entre otros aspectos. La compañía ha presentado el sistema como un prototipo de investigación, por lo que su aplicación práctica queda pendiente de nuevos desarrollos.