Chatbots de AI - son máquinas, no humanos. No olvidarlo.
El jefe de IA de Microsoft, Mustafa Suleyman, escribió recientemente que sistemas “aparentemente conscientes” podrían aparecer en unos pocos años. Los psicólogos señalan que las personas ya están formando vínculos emocionales con los chatbots.
Suleyman dijo que los sistemas que parecen conscientes pronto podrían llevar a la gente a creer que tienen sentimientos, intenciones o incluso un sentido del yo. Argumenta que esta ilusión podría distorsionar las normas sociales, provocar apegos emocionales e incluso impulsar llamados a otorgar derechos a la IA.
“No importa realmente si el sistema es consciente o no”, dijo Francesca Rossi, Líder Global de Ética en IA de IBM, en una entrevista con IBM Think. “Basta con que sea percibido como consciente para tener un impacto en las personas que lo usan”. Ella señaló que el riesgo es que la gente empiece a tratar a las máquinas como si fueran humanas, confiando en ellas para apoyo o autoridad de formas que pueden distorsionar las relaciones y la toma de decisiones.
El riesgo no es abstracto. Los adolescentes ya están recurriendo a los chatbots en busca de compañía y apoyo, a veces recibiendo consejos peligrosamente malos a cambio. Una encuesta encontró que el 72% de los adolescentes estadounidenses ha utilizado herramientas de IA para apoyo en salud mental.
Rossi dijo que dos salvaguardas son críticas: un diseño inteligente y una mejor educación. Los chatbots deben construirse para enfatizar la utilidad, no la personalidad, lo que significa menos disculpas, menos lenguaje en primera persona y sin avatares que imiten emociones. La educación, agregó, puede tomar la forma de recordatorios dentro de la aplicación, tutoriales de inicio o capacitaciones laborales que dejen en claro que el usuario está interactuando con código, no con una mente.
“Estas son máquinas”, dijo Rossi. “Pueden ser muy útiles e incluso ayudar en desafíos personales, pero son máquinas. Y la gente nunca debe olvidarlo.”
.jpeg)
Comments
Post a Comment