OpenAI launches a safer ChatGPT for teens — years after teens started using it
OpenAI ha anunciado el lanzamiento de una versión más segura de ChatGPT dirigida a adolescentes, una medida que llega después de numerosos problemas relacionados con la seguridad de los chatbots de inteligencia artificial, incluyendo casos de suicidios y preocupaciones sobre la salud mental de los jóvenes. La nueva versión, llamada ChatGPT para Adolescentes, promete incluir medidas de seguridad adicionales y abordar la crisis educativa generada por el uso de ChatGPT para hacer trampas en las escuelas.
En el ámbito educativo, ChatGPT para Adolescentes introduce una nueva función llamada Modo de Estudio y otras herramientas diseñadas para fomentar la curiosidad y el aprendizaje activo entre los adolescentes, en lugar de proporcionar respuestas rápidas. Según explica OpenAI en su blog, el Modo de Estudio ofrecerá preguntas guía y apoyo paso a paso para ayudar a los adolescentes a comprender el material. Además, el chatbot incluirá recordatorios de tareas cuando detecte que un adolescente intenta hacer trampas, animándolo a utilizar el Modo de Estudio.
La aplicación también ofrecerá cuestionarios y visualizaciones de aprendizaje, así como controles que permitirán a los padres o tutores decidir cuándo se activa el Modo de Estudio por defecto. Sin embargo, no está claro cuán difícil será para los adolescentes eludir estos nuevos sistemas si deciden no cooperar, dado que son expertos en sortear controles parentales y otras restricciones digitales.
Surge también la cuestión de por qué estas protecciones no formaron parte de ChatGPT desde el principio. El chatbot de inteligencia artificial fue lanzado a finales de 2022 y alcanzó los 900 millones de usuarios semanales antes de que se añadieran salvaguardas significativas específicamente para usuarios adolescentes.
OpenAI afirma que las protecciones adecuadas para la edad estarán activadas por defecto en ChatGPT para Adolescentes, diseñadas para reducir la exposición a contenido dañino o inapropiado para su desarrollo. Estas medidas se basan en los Principios para Menores de 18 años del Modelo Específico de OpenAI, que la empresa asegura están informados por «la ciencia del desarrollo y la orientación de expertos».
Los padres también podrán utilizar las herramientas familiares y controles parentales previamente introducidos para gestionar configuraciones, recibir notificaciones de seguridad y establecer Horarios de Silencio, entre otras cosas. OpenAI ha anunciado una asociación con CodeAI para ayudar a los adolescentes a aprender más sobre la inteligencia artificial, incluyendo cómo funciona, cómo dirigirla o cuestionarla, y cómo utilizarla. En el aula, OpenAI ya ofrece ChatGPT para Profesores para proporcionar acceso gestionado a la inteligencia artificial en las instituciones educativas.