Cuándo habla con la IA, sabe realmente con cuál lo hace?

 



Inferencia verificable: pruebas criptográficas para garantizar la autenticidad de los modelos de IA

Cuando conversas con un amigo en persona, dispones de muchas formas de saber que realmente se trata de esa persona: puedes verla, escucharla o estrecharle la mano. Cuando interactúas con un modelo de inteligencia artificial (IA), prácticamente no cuentas con ninguna de estas posibilidades.

Actualmente, un usuario que realiza una consulta a un modelo de IA no puede verificar que las respuestas provengan efectivamente del modelo específico que el desarrollador afirma estar utilizando, en lugar de otro modelo sustituido secretamente por un servicio de enrutamiento para reducir costos, o incluso por un atacante que haya manipulado el flujo de tokens.

Evaluar únicamente la salida del modelo no es un método confiable, incluso cuando este genera respuestas de alta calidad.

Las pruebas criptográficas de inferencia (cryptographic proofs of inference) permiten resolver este problema: hacen posible que un proveedor se comprometa a utilizar un modelo determinado y posteriormente demuestre que cada respuesta fue generada efectivamente por dicho modelo.

Estas pruebas podrían habilitar aplicaciones que abarcan desde productos destinados a consumidores hasta mecanismos internos de seguridad, además de contribuir al desarrollo de un conjunto de herramientas para verificar el cumplimiento de requisitos relacionados con el ritmo de desarrollo de la inteligencia artificial (AI pacing requirements).

La problemática de verificar la identidad de un modelo de IA

Cuando un usuario envía una solicitud a un modelo de IA, actualmente no dispone de un mecanismo que le permita determinar con certeza que el modelo seleccionado es realmente el que generó la respuesta.

En los usos cotidianos, donde los usuarios se interesan principalmente por el resultado y no necesariamente por qué modelo específico lo produjo, esta cuestión puede resultar menos urgente.

Sin embargo, existen diversas situaciones en las que contar con esta garantía sería especialmente útil.

Por ejemplo:

  • Evaluadores independientes: quienes examinan modelos de IA antes y después de su lanzamiento necesitan tener la certeza de que el modelo evaluado coincide con el que efectivamente se ofrece a los usuarios.

  • Clientes de servicios de terceros: quienes acceden a modelos mediante servicios externos de enrutamiento necesitan garantías de que los tokens recibidos fueron generados por el modelo por el cual pagaron.

  • Protección frente a ciberataques: si un atacante modifica el flujo de tokens mientras suplanta la identidad de un modelo determinado, el usuario no dispone de una forma confiable de detectar esa manipulación basándose únicamente en la respuesta obtenida.

Los desafíos de verificar las respuestas de los modelos

Sin embargo, permitir la verificación de las respuestas de un modelo presenta importantes desafíos técnicos.

Los pesos (weights) de la mayoría de los modelos de IA de frontera (frontier models) se mantienen privados.

Incluso si un usuario tuviera acceso a dichos pesos, comprobar que una respuesta determinada fue generada por un modelo con esos parámetros implicaría ejecutar nuevamente el modelo.

Este procedimiento requiere recursos computacionales muy superiores a los que puede permitirse un usuario promedio, e incluso muchos evaluadores especializados.

Inferencia demostrable (Provable Inference, PI)

El objetivo de la inferencia demostrable (PI) es permitir que un usuario con recursos computacionales limitados, y sin disponer de información sobre los pesos del modelo, pueda verificar que una respuesta proviene efectivamente del modelo solicitado.

La inferencia demostrable responde a dos motivaciones principales.

Por una parte, busca incrementar la confianza de los clientes en los proveedores de inteligencia artificial.

Por otra, dado que puede proporcionar garantías a evaluadores independientes y permitir que los proveedores demuestren el cumplimiento de determinados compromisos y obligaciones legales, también tiene implicaciones para el control del ritmo de desarrollo de los modelos de IA de frontera y para la regulación de la inteligencia artificial.

Pruebas criptográficas de conocimiento cero

Una forma de implementar la inferencia demostrable consiste en utilizar un mecanismo criptográfico denominado argumento sucinto de conocimiento cero (Zero-Knowledge Succinct Argument).

Mediante este procedimiento, el proveedor del modelo envía, junto con la respuesta que afirma haber generado, una prueba criptográfica breve (proof), por ejemplo, de unos pocos megabytes.

El usuario puede verificar esta prueba rápidamente, idealmente en cuestión de segundos utilizando una CPU convencional.

Si la respuesta presentada no corresponde al modelo especificado, la verificación fallará.

Un aspecto fundamental es que las técnicas criptográficas utilizadas garantizan que la prueba no revela información sobre los pesos del modelo.

De este modo, es posible comprobar criptográficamente la autenticidad de las respuestas sin comprometer la confidencialidad de los parámetros internos del sistema de inteligencia artificial.

Referencia: FlashProve: an open-source library for provable inference.

Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA