AI o HUMANO - Verificador
AI o HUMANO - Verificador
Mg. en Ing. Carlos Gerardo Said
Intel puede estar investigando su propia manera de distinguir lo real de lo falso.
La empresa presentó una solicitud de patente para "marcas de agua inmutables para autenticar y verificar los resultados generados por IA". Con el objetivo de mejorar la transparencia y la trazabilidad, la tecnología de Intel esencialmente coloca una firma digital inmutable en los resultados generados por los modelos de IA.
El crecimiento de la IA ha introducido el problema de determinar la confiabilidad y, en consecuencia, la confiabilidad de la información y/o datos generados a partir de fuentes de IA.
La incapacidad de distinguir entre resultados generados por IA y resultados generados por humanos genera riesgos éticos y de seguridad.
El sistema de Intel otorgaría a todo el contenido que pase a través de él una firma digital con un “identificador único global” del modelo de IA que lo creó.
Luego, el sistema verifica el identificador extraído con un “registro de IA compartido” confiable, que mantiene un registro de identificadores únicos para muchos modelos de IA diferentes. Además de determinar que el contenido es generado por IA, el sistema de Intel rastrea de qué modelo de IA puede provenir el contenido.
Intel también dijo que esto podría funcionar en una variedad de medios, incluidos texto, imágenes y video.
Sony presentó anteriormente una solicitud de patente para una forma de usar blockchain para marcar contenido deepfake, y Nvidia buscó patentar una forma de marcar con agua el audio generado por IA.
Google actualizó su propia tecnología invisible de marcas de agua de IA, llamada SynthID, para ayudar a rastrear texto y video generativos. Según se informa, OpenAI ha estado trabajando en un método similar durante un año que es “99,9% efectivo” y resistente a la paráfrasis, según The Wall Street Journal, pero archivó los planes de implementación después de que los usuarios dijeron que dejarían de usar los modelos de la compañía.
"Ha habido una gran pregunta sobre cómo vamos a poder distinguir las cosas reales de las falsas en el futuro", dijo Brian Green, director de ética tecnológica en el Centro Markkula de Ética Aplicada de la Universidad de Santa Clara.
El otro problema es que poner marcas de agua en el contenido generado por IA puede no ser suficiente, dijo Green. Como sugiere esta patente, es posible que también sea necesario exigir marcas de agua para el contenido creado por humanos. "Hay varias otras medidas que deben tomarse, y algunas de ellas pueden resultar en una vigilancia que quizás en realidad no queramos tener".
Referencia: https://ppubs.uspto.gov/pubwebapp/external.html?q=(20240242128).pn.&db=US-PGPUB
Comments
Post a Comment