OpenAI lanza ‘ChatGPT para adolescentes’ con filtros de seguridad y controles parentales

OpenAI anunció este martes el lanzamiento global de ‘ChatGPT for Teens’, una modalidad de su chatbot diseñada para ofrecer mayor protección a los usuarios menores de 18 años mediante filtros de seguridad y controles parentales.

La nueva versión mantiene las capacidades de ChatGPT para apoyar a los jóvenes en el aprendizaje, la resolución de problemas y la exploración de nuevas ideas, pero incorpora restricciones para conversaciones relacionadas con autolesiones, violencia, trastornos alimentarios y contenido sexual explícito o gráfico.

Entre las nuevas funciones también se encuentran los controles parentales, mediante los cuales los adultos pueden recibir determinadas alertas de seguridad. Sin embargo, OpenAI aclaró que estas herramientas no permiten a los padres o tutores leer las conversaciones privadas de los adolescentes.

La empresa señaló que, en caso de emitir una notificación de seguridad, únicamente compartirá con los adultos la información considerada necesaria para proteger el bienestar del menor.

Asimismo, ChatGPT incorporará herramientas orientadas al ámbito educativo, como recordatorios de tareas y sugerencias para utilizar el modo de estudio, con el objetivo de ayudar a los estudiantes a desarrollar sus actividades paso a paso en lugar de entregar directamente las respuestas.

Para identificar si un usuario podría ser menor de 18 años, OpenAI indicó que analiza más de 2 mil señales, entre ellas patrones relacionados con los horarios habituales de inicio de sesión. Cuando el sistema determina que se trata de un menor, activa automáticamente las protecciones correspondientes.

El lanzamiento ocurre en medio de un creciente debate sobre el impacto de la inteligencia artificial en la salud mental y el desarrollo de niños y adolescentes, así como de cuestionamientos de grupos de padres sobre el uso de estas herramientas en el ámbito educativo.

Con esta nueva modalidad, OpenAI busca reforzar las medidas de seguridad para los usuarios jóvenes sin eliminar las funciones de aprendizaje y asistencia que ofrece ChatGPT.