Qué ocurre si los Agentes Morales Artificiales deben tomar decisiones morales en interacciones humanas?

 



La investigación en  la psicología  de la moral expone que la forma en que las personas responden a dilemas que implican sacrificios, tiene una serie de consecuencias respecto de cómo se percibe a dicha persona (la que debe decidir). 

Por ejemplo los análisis de las percepciones sobre personas que dieron respuestas “utilitaristas” versus respuestas no utilitaristas “deontológicas” en el dilema del puente. 

Este dilema  pide a los participantes juzgar si sería aceptable matar a un hombre empujándolo desde un puente para salvar a otras cinco personas en las vías. Se pidió a los participantes juzgar a otros “agentes” que habían recibido este dilema: algunos dieron una respuesta utilitarista (“es mejor salvar cinco vidas que una”), y otros una decisión deontológica, no utilitarista, rechazando el sacrificio (“matar a las personas está mal, incluso si tiene buenas consecuencias”). 

Los estudios encontraron que los participantes percibían como más dignos de confianza a quienes daban respuestas característicamente deontológicas a un dilema moral "de sacrificio" en comparación con quienes daban respuestas utilitaristas. 

A través de una variedad de dilemas, parece que respaldar decisiones utilitaristas en dilemas sacrificiales puede disminuir la confianza. 

Estos hallazgos se han explicado con referencia a modelos de elección de pareja social relacionados con la importancia de seleccionar compañeros sociales confiables, donde se argumentan que seguir principios utilitaristas sobre la maximización de beneficios conduce a comportamientos que a menudo son menos predecibles que seguir reglas deontológicas más simples. 

De hecho, los juicios deontológicos relacionados con deberes, obligaciones y aversión al daño suelen indicar que el agente tiene creencias más valiosas socialmente sobre los demás.

Pero existe evidencia a favor de ambas posibilidades. En cuanto a que las decisiones no utilitaristas señalan un mayor compromiso con la cooperación, las investigaciones muestran que si un agente utilitarista informa que sus juicios fueron muy difíciles de tomar —indicando así cierto nivel de compromiso con la cooperación—, la desconfianza hacia él disminuye. 

También hay evidencia de que las personas respaldan resoluciones no utilitaristas a dilemas morales para parecer más cálidas y morales. 

En cuanto a la posibilidad de que las decisiones no utilitaristas sean más previsibles, hay evidencia mixta. 

Leemos que los seres humanos que respaldan resoluciones utilitaristas en dilemas "de sacrificio" generan menos confianza — quizás porque parecen socios sociales menos comprometidos y menos predecibles. 

Pero cómo podría aplicarse esto a la forma en que las personas perciben a los asesores morales artificiales? En comparación con la existencia de trabajos que analizan percepciones sobre humanos que apoyan juicios utilitaristas o no utilitaristas en dilemas morales, hay poca investigación sobre la IA.

No  esta claro cómo los juicios morales utilitaristas darían forma a las percepciones sobre el propio asesor (un ser humano o un asistente moral artificial), si las personas confiarían de manera diferente en el asesor en otros dilemas menos conocidos, y si esto se mantendría en el tiempo. 

Es decir: confiarían de manera diferente si supieran que la decisión proviene de un ser humano o de un agente moral artificial?  

Mantendrían su decisión con el tiempo, a sabienda de resultados y diversidad de dilemas morales? 

Ahondemos en la relación con los AMA (Agentes Morales Artificiales) a este momento (y recalco "en este momento", el tiempo afecta a la lógica social, a la tecnología y la relación entre ambas): 

1. Qué ocurre si los AMA deben tomar decisiones morales en interacciones humanas?

Un agente inteligente encargado de decisiones morales (por ejemplo, un coche autónomo, un robot asistencial o un sistema de IA encargado de elegir asignación de recursos médicos) debe:

  • decidir entre opciones que afectan a personas,

  • dar explicaciones,

  • generar confianza.

Aquí aparece el siguiente mensaje (puede cambiar con el tiempo, la evolución social y la tecnología):

Los humanos confían más en agentes que adoptan decisiones deontológicas (basadas en reglas) y desconfían de decisiones utilitaristas (maximizar vidas o beneficios), incluso si son racionales.

Esto significa que si un AMA toma decisiones puramente utilitaristas, puede perder legitimidad social.

 2. El comportamiento moral percibido afecta la confianza en el agente

  • Responder de forma utilitarista ("sacrificar a uno para salvar a cinco") se percibe como menos confiable.

  • Responder de forma deontológica ("no matar porque matar está mal") se percibe como más confiable y más moral.

Esto se aplica a cómo los usuarios perciben a los AMA, porque:

Las personas aplican los mismos criterios morales para evaluar a un algoritmo que para evaluar a otro humano.

Entonces, un AMA que toma decisiones "de sacrificio" puramente racionales podría ser visto como:

  • frío, impredecible,

  • potencialmente peligroso,

  • difícil de justificar moralmente.

 3. Problema central en AMA: utilitarismo vs. deontología

Uno de los debates fundamentales en la ética de IA es:

Debe un AMA tomar decisiones utilitaristas o deontológicas?

  • la gente no acepta cuando otro agente (humano o artificial) decide sacrificar a una persona para maximizar bienestar,

  • la gente ve más fiable a agentes que respetan prohibiciones morales.

Por tanto, la ética humana y la ética algorítmica no coinciden necesariamente.

4. Modelo de “elección del socio”: confianza como predictor clave

  • La percepción de confiabilidad depende de si el agente es predecible y cooperativo.

  • Las decisiones deontológicas transmiten previsibilidad (hay reglas claras).

  • Las decisiones utilitaristas transmiten incertidumbre (pueden sacrificar a alguien si “conviene”).

Para AMA esto es crítico:

Si un AMA es percibido como impredecible, no será aceptado socialmente.

Si un AMA parece actuar “estratégicamente”, la confianza cae.

Esto afecta:

  • sistemas autónomos de salud,

  • vehículos autónomos,

  • jueces algorítmicos,

  • IA militar,

  • robots de compañía o cuidado.

5. Los AMA deben gestionar no solo decisiones “correctas”, sino decisiones “aceptables”

Las investigaciones muestran:

  • La moral humana es intuitiva y emocional, no puramente racional.

  • Los AMA deben alinearse con expectativas sociales para ser aceptados.

Esto implica que en la arquitectura de un AMA se deben incluir:

modelos de psicología moral humana

explicabilidad moral

sensibilidad a normas sociales

 coherencia y previsibilidad

Conclusión: Los AMA no pueden ser puramente utilitaristas

Si un agente inteligente toma decisiones morales maximizando resultados cuantitativos:

  • generará desconfianza,

  • será visto como inmoral,

  • podría ser rechazado por usuarios y reguladores.

Los AMA deben incorporar:

  • reglas deontológicas,

  • límites morales no negociables,

  • señales de empatía,

  • explicaciones comprensibles para humanos.


Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA