Algunas reflexiones sobre la ética en la Inteligencia Artificial

 

Algunas reflexiones sobre la ética en la Inteligencia Artificial

Mg en Ing Carlos Gerardo Said



A medida que los sistemas de IA (Inteligencia Artificial)  (por ejemplo, robots, chatbots, avatares y otros agentes inteligentes) pasan de ser percibidos como una herramienta a ser percibidos como agentes autónomos, un enfoque importante de la investigación y el desarrollo es entender el impacto ético de estos instrumentos.

Caben las siguientes preguntas entre otras:

·       Qué significa que un sistema de IA tome una decisión?

·       Cuáles son las consecuencias morales, sociales y legales de sus acciones y decisiones?

·       Puede un sistema de IA ser responsabilizado por sus acciones?

·       Cómo se pueden controlar estos sistemas una vez que sus capacidades de aprendizaje los lleven a estados que estén distantes  a su configuración inicial diseñada?

·       Debería permitirse tal innovación autónoma en sistemas comerciales, y cómo debería regularse su uso y desarrollo?


Estas y otras preguntas relacionadas están actualmente en el centro de atención.
La forma en que la sociedad y nuestros sistemas podrán abordar estas preguntas determinará parte nuestro nivel de confianza y, en última instancia, el impacto de la IA en la sociedad y la existencia de la IA.

La IA ya está cambiando nuestra vida diaria, mayormente de maneras que mejoran la salud, la seguridad y la productividad humana. E

Este es el caso en dominios como el transporte, robots de servicio, atención médica, educación, seguridad pública y entretenimiento.
No obstante estos sistemas deben ser introducidos de manera que fomenten la confianza y la comprensión, y respeten los derechos humanos y civiles.

La necesidad de consideraciones éticas en el desarrollo de sistemas interactivos inteligentes se ha convertido en una de las áreas de investigación influyentes en los últimos años, lo que ha dado lugar a varias iniciativas tanto de investigadores como de profesionales, entre otros.

A medida que crecen las capacidades para la toma de decisiones autónoma, tal vez la cuestión más importante a considerar sea la necesidad de replantear la responsabilidad.

Cualquiera sea su nivel de autonomía y conciencia social y su capacidad para aprender, los sistemas de IA son artefactos, construidos por personas para cumplir algunos objetivos.
Se necesitan teorías, métodos y algoritmos para integrar los valores sociales, legales y morales en los desarrollos tecnológicos de la IA, en todas las etapas del desarrollo (análisis, diseño, construcción, implementación y evaluación).

Estos marcos deben abordar tanto el razonamiento autónomo de la máquina sobre temas que consideramos tienen impacto ético, pero lo más importante es que necesitamos marcos para guiar las decisiones de diseño, regular el alcance de los sistemas de IA, garantizar una adecuada administración de datos y ayudar a los individuos a determinar su propio nivel de implicación.

Los valores dependen del contexto sociocultural y, a menudo, son solo implícitos (no explícitos) en los procesos de deliberación, lo que significa que se necesitan metodologías para extraer los valores que poseen todos los interesados, y hacer estos valores explícitos puede llevar a una mejor comprensión y confianza en los sistemas autónomos artificiales.

Es decir, el razonamiento de la IA debería ser capaz de tener en cuenta los valores sociales, las consideraciones morales y éticas; ponderar las respectivas prioridades de los valores sostenidos por diferentes partes interesadas en varios contextos multiculturales; explicar su razonamiento y garantizar la transparencia.

La Inteligencia Artificial Responsable trata de la responsabilidad de los hombres en el desarrollo de sistemas inteligentes según principios y valores humanos (propios de cada cultura) para garantizar un uso transparente.

De hecho, la IA Responsable es más que desarrollar algunas características adicionales, o botones de apagado en los sistemas de IA.

La ética y la IA parecen estar relacionadas a varios niveles:
a) la integración técnica/algorítmica de capacidades de razonamiento ético como parte del comportamiento de los sistemas autónomos artificiales;

b) los métodos regulatorios y de ingeniería que apoyan el análisis y la evaluación de las implicaciones éticas de los sistemas de IA a medida que estos integran o reemplazan las estructuras sociales tradicionales;

c) los códigos de conducta, las normas y los procesos de certificación que aseguran la integridad de los desarrolladores y usuarios mientras investigan, diseñan, construyen, emplean y gestionan sistemas de inteligencia artificial.

Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA