La Inteligencia Artificial y la toma de decisiones de índole moral




 Los psicólogos advierten que la percepción de que la IA carece de experiencia humana y de una comprensión genuina podría limitar su aceptación para tomar decisiones morales de alto riesgo.

Los asesores morales artificiales (AMA, por sus siglas en inglés) son sistemas basados en inteligencia artificial (IA) que están comenzando a diseñarse para ayudar a los humanos a tomar decisiones morales fundamentadas en teorías éticas, principios o directrices establecidas.

Aunque actualmente se están desarrollando prototipos, los AMA todavía no se utilizan para ofrecer recomendaciones coherentes, libres de sesgos y moralmente racionales.

A medida que las máquinas impulsadas por IA aumentan sus capacidades tecnológicas y se adentran en el ámbito moral, es fundamental comprender cómo las personas perciben a estos asesores morales artificiales.

Una investigación liderada por la Escuela de Psicología de la Universidad de Kent (https://www.kent.ac.uk/school-of-psychology) exploró cómo las personas perciben a estos asesores y si confiarían en su juicio en comparación con los asesores humanos.
El estudio descubrió que, aunque la inteligencia artificial podría tener el potencial de ofrecer consejos imparciales y racionales, las personas aún no confían plenamente en ella para tomar decisiones éticas ante dilemas morales.

Publicado en la revista Cognition, el estudio muestra que las personas sienten una aversión significativa hacia los AMA (en comparación con los humanos) cuando ofrecen consejos morales, incluso cuando el consejo es idéntico, y que esta desconfianza es particularmente fuerte cuando los asesores—humanos o IA—basan sus consejos en principios utilitaristas (acciones que buscan el mayor bien para la mayoría).

Los asesores que ofrecieron consejos no utilitaristas (por ejemplo, respetar reglas morales en lugar de maximizar resultados) fueron más confiables, especialmente en dilemas que implicaban causar daño directo.

Esto sugiere que las personas valoran más a los asesores—humanos o artificiales—que se alinean con principios que priorizan a los individuos sobre los resultados abstractos.

Incluso cuando los participantes estaban de acuerdo con la decisión del AMA, anticipaban que en el futuro no coincidirían con él, lo que indica un escepticismo inherente.

El Dr. Jim Everett, quien lideró la investigación en Kent, explicó:

“La confianza en una IA moral no depende solo de su precisión o coherencia, sino de su alineación con los valores y expectativas humanas.”

La investigación de la Universidad de Kent destaca un desafío crítico para la adopción de los AMA y para el diseño de sistemas que las personas realmente confíen.

A medida que la tecnología avanza, podríamos ver a los AMA más integrados en los procesos de toma de decisiones, desde la atención médica hasta los sistemas legales, por lo que es esencial comprender cómo cerrar la brecha entre las capacidades de la IA y la confianza humana.

Puede leer el artículo de investigación completo aquí:
People expect artificial moral advisors to be more utilitarian and distrust utilitarian moral advisors

Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA