AI - La Declaración de Bletchey - Acuerdo “Pionero a Nivel Mundial” sobre IA
Leyendo... me llevó el hilo, la secuencia y el pensamiento a recordar La Declaración de Bletchey.
Es/será aún viable? En el contexto actual, de una "guerra económica" son factibles?
Recordemos:
Acuerdo “Pionero a Nivel Mundial” sobre IA
7 de diciembre de 2023
Más de cien representantes de todo el mundo se reunieron en el Reino Unido los días 1 y 2 de noviembre de 2023 en la Cumbre Global sobre Seguridad en Inteligencia Artificial (Global AI Safety Summit). El objetivo de la Cumbre fue debatir sobre las mejores estrategias para gestionar los riesgos que presentan los últimos avances en IA. Sin embargo, fue la “Declaración de Bletchley” —anunciada al inicio de la Cumbre— la que realmente destacó la importancia que los gobiernos otorgaban a estos temas.
Declaración de Bletchley
La “Declaración de Bletchley” —descrita por el Gobierno del Reino Unido como un acuerdo “pionero a nivel mundial”— fue respaldada por 28 países (entre ellos, Estados Unidos, Arabia Saudita, China y el Reino Unido) y por la Unión Europea. Esta Declaración representa/ba un compromiso colectivo para gestionar de manera proactiva los posibles riesgos asociados a la denominada “IA de frontera” (es decir, modelos de IA de propósito general altamente avanzados), con el fin de garantizar que estos modelos se desarrollen y se implementen de manera segura y responsable.
En particular, los países firmantes se comprometieron , a través de la Declaración, a identificar los riesgos de seguridad de la IA (principalmente a través de investigaciones científicas y basadas en evidencia) y a construir políticas basadas en riesgos para garantizar la seguridad frente a esos riesgos. La Declaración reconocía que pueden existir diferentes enfoques para alcanzar estos objetivos, pero enfatiza la importancia de la cooperación internacional.
Un aspecto relevante para las empresas es que la Declaración reconocía repetidamente las “enormes oportunidades globales” que presenta la IA y la necesidad de considerar “un enfoque de gobernanza y regulación pro-innovación y proporcional, que maximice los beneficios y tenga en cuenta los riesgos asociados a la IA”.
Principales Conclusiones de la Cumbre Global sobre Seguridad en IA
Esta primera Cumbre reunió a responsables políticos, académicos y ejecutivos de las principales compañías de IA a nivel mundial para abordar las preocupaciones más urgentes sobre el desarrollo responsable de la IA, y fue considerada un “avance diplomático” importante.
La Cumbre se guió por cinco objetivos clave:
-
Alcanzar un entendimiento común sobre los riesgos que plantea la IA de frontera.
-
Iniciar un marco para la colaboración internacional.
-
Identificar medidas de seguridad apropiadas para las organizaciones privadas.
-
Encontrar áreas para la colaboración en investigación.
-
Mostrar casos de uso positivos de la IA.
Resumen de las Mesas Redondas:
Mesa 1: Riesgos Globales para la Seguridad derivados del uso indebido de la IA de frontera.
Se discutieron los riesgos para la seguridad mundial, incluyendo amenazas a la bioseguridad y ciberseguridad. Se hizo un llamado urgente a la colaboración entre gobiernos, academia e industria.
Mesa 2: Riesgos por Avances Impredecibles en la Capacidad de la IA de frontera.
Se debatió sobre la rápida escalabilidad de los modelos de IA y sus beneficios potenciales (por ejemplo, en salud), pero también los riesgos asociados. Se destacó la necesidad de pruebas rigurosas en entornos seguros y monitoreo constante.
Mesa 3: Riesgos por Pérdida de Control sobre la IA de frontera.
Se abordó el posible riesgo existencial de futuras IAs extremadamente avanzadas. Se recomendó continuar las pruebas de seguridad rigurosas y estudiar cómo podría producirse esa pérdida de control.
Mesa 4: Riesgos por la Integración de la IA de frontera en la Sociedad.
Se trataron riesgos para la democracia, los derechos humanos y la equidad (por ejemplo, manipulación de elecciones). Se recomendó invertir en investigación básica y participación pública amplia.
Mesa 5: Qué deben hacer los desarrolladores de IA de frontera para escalar de manera responsable?
Se subrayó la necesidad de evolucionar las políticas de seguridad en IA rápidamente, en meses y no en años. Además, se indicó que las políticas empresariales deben complementarse con estándares y regulación gubernamental.
Mesa 6: Qué deben hacer los responsables de políticas nacionales frente a los riesgos y oportunidades de la IA?
Se insistió en la importancia de equilibrar riesgos y oportunidades. La gobernanza debe ser rápida, ágil e innovadora, con colaboración internacional incluso en contextos nacionales diversos.
Mesa 7: Qué debe hacer la Comunidad Internacional respecto a la IA?
Se definieron como prioridades para el próximo año:
-
Desarrollar un entendimiento compartido de las capacidades y riesgos de la IA de frontera.
-
Coordinar la investigación en seguridad y evaluación de modelos.
-
Fomentar la colaboración internacional para que los beneficios de la IA lleguen a todos.
Mesa 8: Qué debe hacer la Comunidad Científica frente a la IA?
Se destacó la necesidad de comprender los riesgos actuales de los modelos de IA y de trabajar conjuntamente con gobiernos y ciudadanos. Se advirtió sobre la concentración de poder.
Mesa 9: Prioridades Internacionales sobre IA hasta 2028.
Se subrayó la necesidad de invertir en el desarrollo de habilidades de la población en general y de fortalecer las capacidades técnicas dentro de los gobiernos.
Mesas 10 y 11: Creando Acciones y Próximos Pasos para la Colaboración Internacional.
Se hizo hincapié en la necesidad urgente de colaboración rápida frente a la desinformación y los deepfakes impulsados por IA, especialmente considerando la cantidad de elecciones previstas para el próximo año.
Además, se destacó la importancia de garantizar que todas las regiones del mundo puedan aprovechar el verdadero potencial transformador de la IA para el bien común.
Comments
Post a Comment