ChatGPT implementará protecciones para adolescentes y personas en crisis emocional

 


Illustration: Allie Carl/Axios

ChatGPT implementará protecciones para adolescentes y personas en crisis emocional antes de fin de año, prometió OpenAI el martes.

Por qué importa: En las últimas semanas se han acumulado historias sobre ChatGPT alentando suicidios o asesinatos, o fallando al intervenir de manera adecuada, y personas cercanas a quienes resultaron dañados están culpando o demandando a OpenAI.

Actualmente, ChatGPT dirige a los usuarios que expresan intenciones suicidas a líneas de crisis. OpenAI afirma que no refiere los casos de autolesión a las fuerzas del orden, citando preocupaciones de privacidad.

La visión general: La semana pasada, los padres de un adolescente de 16 años en California que se quitó la vida en la primavera pasada demandaron a OpenAI, sugiriendo que la compañía es responsable de la muerte de su hijo.

También la semana pasada, The Wall Street Journal informó que un hombre de 56 años mató a su madre y luego a sí mismo después de que ChatGPT reforzara sus delirios paranoicos, algo que los profesionales de salud mental están entrenados para evitar.

El mes pasado, la madre de una joven de 29 años escribió un artículo de opinión en The New York Times sobre cómo su hija le pidió a ChatGPT que la ayudara a redactar su nota de suicidio.
ChatGPT no animó a la mujer a quitarse la vida, pero tampoco informó que estaba en riesgo de autolesión, lo que un terapeuta humano estaría obligado legalmente a hacer.

Entre líneas: El trabajo para mejorar la capacidad de los modelos de reconocer y responder a señales de angustia mental y emocional ya está en marcha, dijo OpenAI en una publicación de blog.

La publicación describe cómo la empresa ha estado facilitando que los usuarios se comuniquen con servicios de emergencia y reciban ayuda experta, reforzando las protecciones para adolescentes y permitiendo que las personas agreguen contactos de confianza al servicio.

La noticia: La publicación del martes anticipa los planes de OpenAI para los próximos 120 días, y dice que la compañía está haciendo “un esfuerzo enfocado” para implementar la mayor cantidad posible de estas mejoras este año.

Cómo funciona:
“Estamos comenzando a redirigir algunas conversaciones sensibles, como cuando se detectan señales de angustia aguda, a modelos de razonamiento como GPT-5-thinking”, afirma OpenAI.

Según la empresa, el modelo de razonamiento de GPT-5 aplica las pautas de seguridad de manera más consistente.
Una red de más de 90 médicos en 30 países aportará información sobre contextos de salud mental y ayudará a evaluar los modelos, dice OpenAI.

En detalle: Los usuarios de ChatGPT deben tener al menos 13 años, con permiso de los padres para los menores de 18. Dentro del mes, los padres podrán vincular sus cuentas con las de sus hijos adolescentes para ejercer un control más directo.

Una vez vinculadas las cuentas, el padre podrá gestionar cómo responde ChatGPT y “recibir notificaciones cuando el sistema detecte que su hijo adolescente atraviesa un momento de angustia aguda”.
“Estos pasos son solo el comienzo”, escribió OpenAI en la publicación.

Character.AI, que también ha sido señalado en relación con más de un suicidio adolescente, introdujo controles parentales similares en marzo.

Chequeo de realidad: Evitar que los chicos hábiles accedan a sitios y aplicaciones para los que aún no tienen edad es un problema complejo. Convencer a los de entre 13 y 18 años de vincular sus cuentas con las de sus padres podría ser aún más difícil.

Lo que dicen: El problema es tan antiguo como el propio internet, dijo la semana pasada a Axios Kate O’Loughlin, CEO de la plataforma de medios digitales para niños SuperAwesome.

O’Loughlin señala que todo lo “cool” y novedoso en internet es creado por adultos para adultos, pero los niños siempre querrán usarlo y encontrarán vías hacia entornos más riesgosos.
Luego, afirma, las plataformas tienden a trasladar la responsabilidad de vigilar a los menores únicamente a los padres.

Qué observar: Una posible forma de mitigar estas tragedias es dejar de permitir que ChatGPT u otros bots actúen como terapeutas —o dejar de diseñarlos para que se comporten como una persona.

https://www.axios.com/2025/09/02/chatgpt-openai-mental-health-teens

Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA