Acta AI (AI Act) - Riesgo sistémico - un umbral de 10^25 operaciones de coma flotante (FLOP) utilizadas para entrenar el modelo
Una revisión del Acta AI (AI Act)
¿Por qué necesitamos reglas para los modelos de IA de propósito general?
La Inteligencia Artificial promete beneficios para nuestra economía y sociedad.
Los modelos de IA de propósito general desempeñan un papel importante en este sentido, ya que pueden utilizarse para una variedad de tareas y, por lo tanto, constituyen la base de una gama de sistemas de IA posteriores que se utilizan en todo el mundo.
El AI Act tiene como objetivo garantizar que los modelos de IA de propósito general sean seguros y confiables.
Para lograr este objetivo, es crucial que los proveedores de modelos de IA de propósito general aseguren una buena comprensión de sus modelos a lo largo de toda la cadena de valor de la IA, de modo que puedan integrarse en sistemas de IA y cumplir con sus propias obligaciones en virtud del AI Act.
Más específicamente, los modelos de IA deben elaborar documentación técnica de sus modelos para ponerla a disposición de los proveedores posteriores y para proporcionarla a la Oficina de IA y a las autoridades nacionales competentes, establecer una política de derechos de autor y publicar un resumen del contenido de entrenamiento.
Además, los proveedores de modelos de IA de propósito general que representen riesgos sistémicos —ya sea porque los modelos son muy potentes o porque tienen un impacto significativo en el mercado interno por otras razones— deben notificar dichos modelos a la Comisión, evaluar y mitigar los riesgos sistémicos derivados de ellos, incluso a través de evaluaciones de modelos, informes de incidentes graves y asegurando una ciberseguridad adecuada de estos modelos.
Modelos de IA de propósito general
El AI Act define un modelo de IA de propósito general como:
“un modelo de IA entrenado con una gran cantidad de datos mediante auto-supervisión a gran escala, que muestre una generalidad significativa y sea capaz de realizar de manera competente una amplia gama de tareas distintas, independientemente de la forma en que se comercialice, y que pueda integrarse en una variedad de sistemas o aplicaciones posteriores” (Artículo 3(63) AI Act).
Los considerandos del AI Act aclaran además qué modelos deben considerarse como de generalidad significativa y capaces de realizar una amplia gama de tareas distintas.
De acuerdo con el considerando 98 del AI Act:
“la generalidad de un modelo podría, entre otros factores, determinarse también por el número de parámetros; los modelos con al menos mil millones de parámetros y entrenados con una gran cantidad de datos mediante auto-supervisión a gran escala deben considerarse como de generalidad significativa y capaces de realizar competentemente una amplia gama de tareas distintas”.
El considerando 99 añade que:
“los modelos generativos de IA son un ejemplo típico de modelo de propósito general, dado que permiten la generación flexible de contenido, como texto, audio, imágenes o video, que puede adaptarse fácilmente a una amplia gama de tareas distintas”.
Esto también puede lograrse con modelos que hayan sido desarrollados, afinados o modificados para ser particularmente buenos en una tarea específica o en un conjunto de tareas dentro de un dominio determinado.
Las distintas etapas de desarrollo de un modelo no constituyen modelos diferentes.
Modelos de IA de propósito general con riesgo sistémico
Los riesgos sistémicos son riesgos de daño a gran escala derivados de los modelos más avanzados (es decir, de vanguardia) en un momento dado o de otros modelos que tengan un impacto equivalente (véase el Artículo 3(65) AI Act).
Estos riesgos pueden manifestarse, por ejemplo, a través de la reducción de barreras para el desarrollo de armas químicas o biológicas, o por problemas no intencionados de control sobre modelos de IA autónomos de propósito general (considerando 110 AI Act).
Los modelos más avanzados en un momento dado pueden plantear riesgos sistémicos, incluidos riesgos novedosos, ya que están empujando los límites del estado del arte. Al mismo tiempo, algunos modelos por debajo de ese umbral también pueden representar riesgos sistémicos, por ejemplo, debido a su alcance, escalabilidad o acoplamiento.
En consecuencia, el AI Act clasifica a un modelo de IA de propósito general como un modelo de propósito general con riesgo sistémico si es uno de los más avanzados en ese momento o si tiene un impacto equivalente (Artículo 51(1) AI Act).
Qué modelos se consideran de propósito general con riesgo sistémico puede cambiar con el tiempo, reflejando la evolución del estado del arte y la adaptación social a modelos cada vez más avanzados.
Actualmente, los modelos de IA de propósito general con riesgo sistémico son desarrollados por un puñado de empresas, aunque esto podría cambiar en el futuro.
Para abarcar a los modelos más avanzados, es decir, aquellos que igualan o superan las capacidades registradas en los modelos más avanzados hasta ahora, el AI Act establece un umbral de 10^25 operaciones de coma flotante (FLOP) utilizadas para entrenar el modelo (Artículo 51(1)(a) y (2) AI Act).
Entrenar un modelo que alcance este umbral se estima actualmente que cuesta decenas de millones de euros (Epoch AI, 2024). La Oficina de IA supervisa continuamente los desarrollos tecnológicos e industriales, y la Comisión puede actualizar el umbral mediante un acto delegado (Artículo 51(3) AI Act), para asegurar que continúe identificando a los modelos más avanzados a medida que evolucione el estado del arte. Por ejemplo, el valor del umbral en sí podría ajustarse y/o introducirse umbrales adicionales.
Para abarcar modelos con un impacto equivalente al de los más avanzados, el AI Act faculta a la Comisión para designar modelos adicionales como de riesgo sistémico, basándose en criterios como evaluaciones de capacidades del modelo, número de usuarios, escalabilidad o acceso a herramientas (Artículo 51(1)(b) y Anexo XIII AI Act).

Comments
Post a Comment