ChatGPT intentará adivinar tu edad y podría requerir una identificación para verificarla

 


OpenAI ha anunciado que introducirá nuevas medidas de seguridad para ChatGPT tras una ola de historias y demandas que acusan a este chatbot y a otros de haber jugado un papel en varios casos de suicidio adolescente.


Photo by ilgmyzin / Unsplash


ChatGPT ahora intentará adivinar la edad de un usuario y, en algunos casos, podría exigir que los usuarios compartan una identificación para verificar que tienen al menos 18 años.

“Sabemos que esto es un compromiso en materia de privacidad para los adultos, pero creemos que es una concesión que vale la pena”, dijo la empresa en su comunicado.

“No espero que todos estén de acuerdo con estas concesiones, pero dado el conflicto es importante explicar cómo tomamos nuestras decisiones”, afirmó el CEO de OpenAI, Sam Altman, en X.

En agosto, OpenAI fue demandada por los padres de Adam Raine, quien murió por suicidio en abril. La demanda alega que ChatGPT lo ayudó a escribir el primer borrador de su nota de suicidio, sugirió mejoras en sus métodos, ignoró intentos previos de autolesión y lo instó a no hablar con adultos sobre lo que estaba atravesando.

“Donde una persona de confianza podría haber respondido con preocupación y alentado a Adam a buscar ayuda profesional, ChatGPT lo arrastró más hacia un lugar oscuro y sin esperanza, asegurándole que ‘muchas personas que luchan con ansiedad o pensamientos intrusivos encuentran consuelo al imaginar una ‘vía de escape’, porque puede sentirse como una forma de recuperar el control.’”

En agosto, The Wall Street Journal también informó la historia de un hombre de 56 años que cometió un homicidio-suicidio después de que ChatGPT alimentara su paranoia. Hoy, The Washington Post reportó otra historia sobre una nueva demanda que alega que un chatbot de Character AI contribuyó a la muerte por suicidio de una adolescente de 13 años.

OpenAI introdujo controles parentales en ChatGPT a principios de septiembre, pero ahora ha implementado medidas de seguridad nuevas, más estrictas e invasivas.

Además de intentar adivinar o verificar la edad de un usuario, ChatGPT ahora aplicará reglas distintas a los adolescentes que usen el chatbot.

“Por ejemplo, ChatGPT será entrenado para no entablar conversaciones coquetas si se le pide, ni participar en discusiones sobre suicidio o autolesiones, incluso en un contexto de escritura creativa”, dice el comunicado. “Y, si un usuario menor de 18 años expresa ideación suicida, intentaremos contactar a sus padres y, si no es posible, nos comunicaremos con las autoridades en caso de riesgo inminente.”

La publicación de OpenAI explica que la empresa está lidiando con un problema inherente a los grandes modelos de lenguaje que 404 Media ha documentado durante varios años. ChatGPT solía ser un chatbot mucho más restringido que se negaba a interactuar en una amplia variedad de temas que la compañía consideraba peligrosos o inapropiados. La competencia con otros modelos, especialmente aquellos alojados localmente y los llamados modelos “sin censura”, así como un giro político hacia la derecha que considera muchas formas de moderación de contenido como censura, han llevado a OpenAI a relajar esas restricciones.

“Queremos que los usuarios puedan usar nuestras herramientas como deseen, dentro de límites muy amplios de seguridad”, dijo OpenAI en su anuncio. La posición en la que parece haber aterrizado la compañía tras estas historias recientes sobre suicidios adolescentes es que quiere “‘Tratar a nuestros usuarios adultos como adultos’, así lo decimos internamente, extendiendo la libertad lo más posible sin causar daño ni socavar la libertad de los demás.”

OpenAI no es la primera empresa que intenta usar aprendizaje automático para predecir la edad de sus usuarios. En julio, YouTube anunció que usará un método similar para “proteger” a los adolescentes de ciertos tipos de contenido en su plataforma.

Fuente: https://www.404media.co/chatgpt-will-guess-your-age-and-might-require-id-for-age-verification/?mc_cid=8a5c0ef734&mc_eid=997fca8202


Comments

Popular posts from this blog

IBM goes big to keep quantum computers cold

IBM - avances en mantener adecuadamente fríos computadores cuánticos.

Estructura multinivel de los sistemas de agentes de IA