Vigencia de la Ley de IA Europea y Niveles de Riesgo establecidos

 Vigencia de la Ley de IA Europea y Niveles de Riesgo establecidos 

Mg. en Ing. Carlos Gerardo Said 



El 1 de agosto entró en vigor el Reglamento de Inteligencia Artificial (IA) de la Unión Europea, una normativa que regula la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA en la Unión Europea. 

Su principal objetivo es fomentar el desarrollo y la utilización segura de la IA en la UE, así como garantizar un alto nivel de protección de la salud, la seguridad y los derechos fundamentales.


En los últimos años, la inteligencia artificial ha avanzado a pasos agigantados, transformando la sociedad y generando grandes oportunidades para las empresas y los ciudadanos. Sin embargo, estos avances también han traído consigo preocupaciones sobre la privacidad, la seguridad y la ética. La proliferación de aplicaciones de IA sin una supervisión adecuada ha expuesto vulnerabilidades, como el sesgo algorítmico, la discriminación y la falta de transparencia.


Aparte de aspectos éticos y morales, el incumplimiento de la Ley de IA Europea conllevará sanciones económicas a aquellos que utilicen esta tecnología en su provecho con fines ilegítimos. 

Las multas pueden ser considerables, y llegar hasta el 6% de los ingresos globales anuales de una empresa o 30 millones de euros, lo que sea mayor (algunas fuentes señalan los 40 millones como techo para las sanciones).

Normas para los distintos riesgos

Para llevar a cabo su cometido, la Ley de IA europea ha establecido cuatro niveles de riesgo, que marcan los diferentes niveles de peligrosidad y, en consecuencia, de permisibilidad. 


Estos niveles son: riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo. La UE marca obligaciones para los proveedores y usuarios en función del riesgo que se acarree.

Riesgo inaceptable

Los sistemas de IA que conlleven un riesgo inaceptable para las personas serán vedados. Como el caso de “aquellos sistemas que desplieguen técnicas manipulativas que exploten vulnerabilidades de las personas o sean utilizadas para usos intrusivos y discriminatorios”. De forma taxativa, esta propuesta de ley prohíbe la vigilancia biométrica en tiempo real, el reconocimiento de emociones por IA y los sistemas policiales predictivos.

Los sistemas de identificación biométrica a distancia solo podrán ser utilizados en caso de la aplicación de la ley para el enjuiciamiento de delitos graves y solamente tras una autorización judicial.

Alto riesgo

Los sistemas de alto riesgo deberán cumplir con una serie de obligaciones para ser seguros y respetar los valores y garantías de la UE. Son considerados sistemas de alto riesgo aquellos que se usan en infraestructuras críticas (electricidad, petroleras…), formación educativa, componentes de productos (robots utilizados en cirugía).

También se consideran de alto riesgo los sistemas de conducción autónoma o aquellos utilizados por los bancos para evaluar la solvencia y la calificación crediticia de los ciudadanos.

Riesgo limitado y riesgo mínimo

Los sistemas con un nivel limitado o mínimo de riesgo estarán sujetos a menos obligaciones legales. Sin embargo, deberán cumplir con ciertos requisitos básicos para garantizar su seguridad y transparencia.

Aquí se contemplan los conocidos deepfakes, sistemas que generan y manipulan imágenes, vídeo o audio.

Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA