Algunas reflexiones sobre la ética en la Inteligencia Artificial
Algunas
reflexiones sobre la ética en la Inteligencia Artificial
Mg
en Ing Carlos Gerardo Said
A medida que los sistemas de IA (Inteligencia Artificial) (por ejemplo, robots, chatbots, avatares y
otros agentes inteligentes) pasan de ser percibidos como una herramienta a ser
percibidos como agentes autónomos, un enfoque importante de la investigación y
el desarrollo es entender el impacto ético de estos instrumentos.
Caben las siguientes preguntas entre otras:
·
Qué significa que un sistema de IA tome una
decisión?
·
Cuáles son las consecuencias morales, sociales y
legales de sus acciones y decisiones?
·
Puede un sistema de IA ser responsabilizado por
sus acciones?
·
Cómo se pueden controlar estos sistemas una vez
que sus capacidades de aprendizaje los lleven a estados que estén distantes a su configuración inicial diseñada?
·
Debería permitirse tal innovación autónoma en
sistemas comerciales, y cómo debería regularse su uso y desarrollo?
Estas y otras preguntas relacionadas están actualmente en el centro de atención.
La forma en que la sociedad y nuestros sistemas podrán abordar estas preguntas
determinará parte nuestro nivel de confianza y, en última instancia, el impacto
de la IA en la sociedad y la existencia de la IA.
La IA ya está cambiando nuestra vida diaria, mayormente de maneras que
mejoran la salud, la seguridad y la productividad humana. E
Este es el caso en dominios como el transporte, robots de servicio, atención
médica, educación, seguridad pública y entretenimiento.
No obstante estos sistemas deben ser introducidos de manera que fomenten la
confianza y la comprensión, y respeten los derechos humanos y civiles.
La necesidad de consideraciones éticas en el desarrollo de sistemas
interactivos inteligentes se ha convertido en una de las áreas de investigación
influyentes en los últimos años, lo que ha dado lugar a varias iniciativas
tanto de investigadores como de profesionales, entre otros.
A medida que crecen las capacidades para la toma de decisiones autónoma, tal
vez la cuestión más importante a considerar sea la necesidad de replantear la
responsabilidad.
Cualquiera sea su nivel de autonomía y conciencia social y su capacidad para
aprender, los sistemas de IA son artefactos, construidos por personas para
cumplir algunos objetivos.
Se necesitan teorías, métodos y algoritmos para integrar los valores sociales,
legales y morales en los desarrollos tecnológicos de la IA, en todas las etapas
del desarrollo (análisis, diseño, construcción, implementación y evaluación).
Estos marcos deben abordar tanto el razonamiento autónomo de la máquina
sobre temas que consideramos tienen impacto ético, pero lo más importante es
que necesitamos marcos para guiar las decisiones de diseño, regular el alcance
de los sistemas de IA, garantizar una adecuada administración de datos y ayudar
a los individuos a determinar su propio nivel de implicación.
Los valores dependen del contexto sociocultural y, a menudo, son solo
implícitos (no explícitos) en los procesos de deliberación, lo que significa
que se necesitan metodologías para extraer los valores que poseen todos los
interesados, y hacer estos valores explícitos puede llevar a una mejor
comprensión y confianza en los sistemas autónomos artificiales.
Es decir, el razonamiento de la IA debería ser capaz de tener en cuenta los
valores sociales, las consideraciones morales y éticas; ponderar las
respectivas prioridades de los valores sostenidos por diferentes partes
interesadas en varios contextos multiculturales; explicar su razonamiento y
garantizar la transparencia.
La Inteligencia Artificial Responsable trata de la responsabilidad de los
hombres en el desarrollo de sistemas inteligentes según principios y valores
humanos (propios de cada cultura) para garantizar un uso transparente.
De hecho, la IA Responsable es más que desarrollar algunas características
adicionales, o botones de apagado en los sistemas de IA.
La ética y la IA parecen estar relacionadas a varios niveles:
a) la integración técnica/algorítmica de capacidades de razonamiento ético como
parte del comportamiento de los sistemas autónomos artificiales;
b) los métodos regulatorios y de ingeniería que apoyan el análisis y la
evaluación de las implicaciones éticas de los sistemas de IA a medida que estos
integran o reemplazan las estructuras sociales tradicionales;
c) los códigos de conducta, las normas y los procesos de certificación que
aseguran la integridad de los desarrolladores y usuarios mientras investigan,
diseñan, construyen, emplean y gestionan sistemas de inteligencia artificial.
Comments
Post a Comment