Asesores morales artificiales (AMA, por sus siglas en inglés)
- Get link
- X
- Other Apps
Los sistemas de Inteligencia artificial (IA) que utilizan algún tipo de algoritmo o modelo estadístico para realizar tareas que normalmente requieren inteligencia humana, están cambiando el mundo en que nos movemos, modelando funciones típicas de la mente humana como el reconocimiento visual y del habla, el razonamiento y la resolución de problemas.
Confiamos en los sistemas de IA cuando consultamos el tráfico en Google Maps, nos conectamos con un conductor en Uber o solicitamos una evaluación crediticia, y a medida que aumenta la sofisticación tecnológica de la IA, también lo hacen las tareas en las que dependemos de ella, aumentando las consecuencias para los humanos.
Los sistemas de IA están alcanzando un nivel de complejidad que requiere progresivamente que encarnen una moralidad artificial: tomar decisiones que serían descritas como morales o inmorales si las hicieran humanos.
Ya conocemos sistemas de IA que los teóricos han denominado agentes morales implícitos o indirectos: sistemas que tienen consideraciones éticas limitadas integradas en su diseño como efectos secundarios de su propósito principal, para evitar que causen daño.
Un vehículo autónomo, por ejemplo, debe tener sistemas para minimizar el daño en situaciones de emergencia —por ejemplo, si un peatón se cruza repentinamente frente al coche—. Más preocupante aún, algunos sistemas requieren cada vez más ser agentes morales explícitos o directos, procesando información éticamente relevante sobre situaciones para cumplir su propósito principal: tomar decisiones sobre lo que se debe hacer.
Asesores morales artificiales
Los asesores morales artificiales (AMA, por sus siglas en inglés) son sistemas de IA diseñados para ayudar a los humanos a tomar decisiones éticas, aprovechando la inteligencia artificial para analizar dilemas morales y ofrecer recomendaciones basadas en teorías, principios o guías éticas establecidas.
La idea, en esencia, es: la inteligencia artificial proporciona una herramienta que puede ayudar a mejorar la actividad humana en muchos ámbitos diferentes, por qué no usarla para ayudar a las personas a tomar mejores decisiones morales? Los humanos han recurrido a expertos para recibir consejo en situaciones morales difíciles durante milenios, y el auge de la IA permitiría que esos expertos fueran artificiales, no humanos.
El atractivo de estos AMAs es: podrían estar disponibles para un mayor número de personas en cualquier momento del día o la noche; podrían usar un gran poder computacional para predecir los resultados probables de diferentes eventos de una manera que sería difícil para los humanos; y al evitar supuestamente los sesgos cognitivos y los lazos emocionales humanos, podrían ofrecer consejos morales más coherentes y racionales.
De este modo, se ha sugerido que los AMAs cumplan una función similar a la del “observador ideal”, ofreciendo juicios desapasionados y consistentes, libres de prejuicios humanos.
A medida que los AMAs se desarrollen, podrían servir no solo como herramientas de orientación ética, sino también como medios para fomentar la alfabetización moral.
Aunque hasta ahora la discusión sobre los AMAs ha sido en gran medida hipotética y orientada al futuro, los recientes avances en los grandes modelos de lenguaje (LLMs) aumentan la posibilidad de que la inteligencia artificial ya esté siendo (mal o no) utilizada como asesora moral artificial.
ChatGPT ya ofrece consejos en dilemas morales, y algunas organizaciones están trabajando en prototipos de sistemas impulsados por IA diseñados específicamente para modelar juicios morales, como “Ask Delphi” del Allen Institute (ver: delphi.allenai.org). Incluso es posible conversar con un chatbot entrenado con los escritos del ético Peter Singer (petersinger.ai), aunque se declara que es solo para “fines experimentales y educativos”.
Es claro que existen limitaciones serias en el estado actual de los sistemas públicos de IA que intentan dar consejos morales. Los modelos actuales como ChatGPT y AskDelphi advierten que sus resultados pueden contener errores y no deben usarse (de manera acrítica) para tomar decisiones humanas.
ChatGPT no está diseñado para ofrecer consejos morales y puede rehusarse a responder ciertas preguntas con carga ética por razones de seguridad u otras, y los creadores de Delphi aclaran que su propósito actual no es ser una autoridad moral o fuente de orientación ética.
Aunque algunos han defendido la posibilidad teórica de AMAs más personalizados, esto parece por ahora incompatible con las realidades prácticas del diseño y la implementación de tales sistemas.
Desafíos filosóficos y psicológicos
Aunque los AMAs plenamente desarrollados siguen siendo por ahora una posibilidad teórica, su realización está cada vez más cerca. Esto obliga a discutir no solo los desafíos tecnológicos de crearlos, sino también los desafíos psicológicos y filosóficos asociados al intento mismo.
Por ejemplo: cómo incorporar los valores humanos?,
existe un conjunto estable de valores morales que puedan codificarse de forma coherente?,
cómo manejamos el desacuerdo entre los juicios morales de las personas?
Estas cuestiones teóricas son difíciles de resolver. Las preguntas sobre cómo crear AMAs, si deberíamos hacerlo y cuáles serían las consecuencias a largo plazo permanecen abiertas. Pero incluso dejando de lado la cuestión de si las personas deberían confiar en los AMAs, queda otra pregunta: las personas realmente confiarían en ellos?
Hay razones para suponer que la gente sería reacia a confiar en agentes morales artificiales explícitos. Investigaciones han documentado el fenómeno de la aversión algorítmica: la tendencia de las personas a desconfiar de la IA en comparación con los humanos, incluso cuando ambos tienen un rendimiento igual o superior.
Por ejemplo, las personas pierden confianza en los modelos estadísticos más rápido que en los humanos después de verlos cometer el mismo error, y valoran más el consejo de expertos humanos que el de modelos estadísticos.
Esta aversión algorítmica también impulsa la desconfianza hacia la IA que toma decisiones morales, aparentemente debido a la percepción de que la IA carece de experiencia interna o conciencia.
Pero hay un problema adicional: cuando se trata de dilemas morales, no solo están en juego consecuencias potencialmente más graves, sino que además no existe siempre un consenso claro sobre cuál es la decisión moralmente correcta.
Dilemas éticos y teorías morales
Un desafío fundamental para los desarrolladores de AMAs será determinar qué marco ético utilizar como referencia, especialmente en dilemas donde distintas teorías éticas prescriben acciones mutuamente excluyentes.
Por ejemplo, es moralmente aceptable violar la prohibición del asesinato para evitar un daño mayor a más personas?
Las distintas teorías éticas ofrecen respuestas divergentes, y no está nada claro cuál debería tomarse como norma.
Las teorías con base en las consecuencias, como el utilitarismo, se centran en el “mayor bien para el mayor número”, sosteniendo que solo las consecuencias importan al tomar decisiones morales.
En cambio, las teorías deontológicas no utilitaristas afirman que también debemos considerar los derechos, deberes y obligaciones; por ejemplo, incluso si matar pudiera traer buenas consecuencias, aún podría considerarse moralmente incorrecto.
Así como los humanos enfrentan tales dilemas, también lo harán los agentes de IA, y deberán responder de manera “adecuada”, alineándose con nuestros valores.
Este no es solo un problema teórico sobre qué norma moral usar como referencia, sino también una cuestión psicológica sobre cómo las personas confiarán (o no) en estos asesores según las decisiones específicas que tomen.
La moralidad no se trata solo de juzgar actos como correctos o incorrectos, sino también de percepciones sobre el carácter moral de quien actúa. Las acciones nos brindan información sobre ese carácter, y esas percepciones, a su vez, influyen en lo que consideramos justificable.
Quero detenerme es este último párrafo antes de finalizar:
Este párrafo plantea una idea muy importante dentro de la filosofía moral y la psicología ética: que la moralidad no se limita únicamente a evaluar si una acción está “bien” o “mal” según normas o consecuencias, sino que también implica juzgar la intención, la identidad y el carácter moral de la persona que realiza esa acción.
Veámoslo por partes:
-
“La moralidad no se trata solo de juzgar actos como correctos o incorrectos...”
Aquí se cuestiona una visión simplista de la ética que se centra solo en los resultados (como el utilitarismo) o en las reglas (como el deontologismo). La frase sugiere que la moralidad también incluye algo más profundo: la comprensión del sujeto moral. -
“...sino también de percepciones sobre el carácter moral de quien actúa.”
No solo importa lo que alguien hace, sino quién lo hace y por qué.
Por ejemplo, si una persona ayuda a otra solo para obtener reconocimiento, su acción puede parecer buena externamente, pero nuestras percepciones sobre su carácter moral serán distintas a las de alguien que ayuda por genuina compasión.
Esto se relaciona con la ética de la virtud (Aristóteles), que centra la moralidad en el carácter y las virtudes del individuo más que en normas o consecuencias. -
“Las acciones nos brindan información sobre ese carácter...”
Las acciones son expresiones visibles del carácter moral. A través de ellas inferimos si alguien es justo, honesto, compasivo, egoísta, etc. No conocemos directamente la moral interna de las personas, pero la deducimos a partir de su comportamiento. -
“...y esas percepciones, a su vez, influyen en lo que consideramos justificable.”
Esto significa que nuestras percepciones sobre el carácter de los demás afectan nuestro juicio sobre si sus acciones son justificables o no.
Por ejemplo, tendemos a justificar más fácilmente los errores de alguien que consideramos “bueno” o “honesto”, y a condenar más rápidamente los actos de quien percibimos como “malo” o “corrupto”.
- Get link
- X
- Other Apps
.jpeg)
Comments
Post a Comment