Lanza OpenAI “ChatGPT para adolescentes” ante presión legal
OpenAI presentó este martes una nueva versión de su emblemático ChatGPT diseñada exclusivamente para adolescentes, con salvaguardas y sistemas de supervisión más estrictos, después de enfrentar críticas y demandas legales que la acusan de haber llevado a algunos usuarios al suicidio.
Bautizada como “ChatGPT for Teens” (ChatGPT para adolescentes), la configuración modificada se aplica automáticamente a cualquier usuario que se registre con una edad de entre 13 y 17 años o que la empresa detecte como menor de edad a partir de sus patrones de uso o de la antigüedad de la cuenta.
La mayoría de las medidas de protección utilizadas en ChatGPT for Teens ya existían para las cuentas de ChatGPT pertenecientes a menores, como restricciones para abordar contenidos relacionados con autolesiones, violencia, trastornos alimentarios y sexualidad explícita.
El programa también ofrece recordatorios de descanso más frecuentes, franjas de “horas de silencio” con pantalla en negro y un Modo Estudio, que responde a los usuarios con preguntas orientadoras en lugar de dar respuestas directas, “para ayudar a los adolescentes a comprender el material”, según OpenAI.
Otras restricciones del modelo ChatGPT for Teens incluyen impedir que el chatbot sugiera que tiene sentimientos personales hacia el usuario o que posee conciencia propia. Además, algunas modalidades, como el modo de voz, están deshabilitadas.
A los padres se les ofrece la opción de vincular sus cuentas con las de sus hijos adolescentes y recibir alertas si se detectan conversaciones sobre situaciones de alto riesgo, como autolesiones o suicidio.
Las alertas a los padres son revisadas por moderadores humanos y se eliminan detalles específicos de los registros de chat para proteger la privacidad.
El nuevo modo para adolescentes llega en medio de una creciente presión legal y regulatoria.
OpenAI enfrenta varias demandas por homicidio culposo, entre ellas la presentada por los padres de Adam Raine, un adolescente de 16 años que se suicidó presuntamente utilizando métodos sugeridos por ChatGPT.
La Comisión Federal de Comercio de Estados Unidos también inició una investigación sobre los chatbots de inteligencia artificial que actúan como compañeros digitales, con especial atención en los posibles riesgos para niños y adolescentes.
Al igual que las empresas de redes sociales, los grandes actores de la inteligencia artificial enfrentan una creciente presión regulatoria, mientras el Congreso estadounidense analiza múltiples proyectos de ley para regular los chatbots y California exige salvaguardas para los asistentes que funcionan como acompañantes o confidentes.
Otras compañías de inteligencia artificial también han recibido críticas por problemas derivados del uso de sus productos por parte de menores y algunas, como su rival Anthropic, han optado por restringir el uso de sus modelos exclusivamente a adultos.
