OpenAI lanzó ChatGPT for Teens, para usuarios de entre 13 y 17 años
Jessica Bonifacio. El Caribe
¿Puede un adolescente aprovechar la inteligencia artificial sin quedar expuesto a sus riesgos? La pregunta adquiere mayor relevancia a medida que los chatbots se incorporan a las tareas escolares, la búsqueda de información y las conversaciones cotidianas de los jóvenes.
En este contexto, OpenAI presentó ChatGPT for Teens, una experiencia dirigida a usuarios de entre 13 y 17 años que incorpora medidas como protecciones de seguridad adicionales, controles parentales y funciones pensadas para el aprendizaje.
Esta herramienta permitirá que los jóvenes usen la IA para estudiar, crear y desarrollar habilidades, pero dentro de una experiencia adaptada a su edad. ESET, compañía líder en detección proactiva de amenazas, advierte que la violencia gráfica, las autolesiones, los comportamientos peligrosos, la imagen corporal y el contenido sexual se encuentran entre los temas que ahora reciben un nivel de protección específico, y que esta novedad busca fomentar hábitos digitales más saludables y ofrecer a los padres nuevos controles sobre ciertas configuraciones de uso.
“Hacer que una IA sea más segura para este público no consiste solo en filtrar temas sensibles; también implica definir límites sobre cómo el sistema interactúa con los adolescentes y dejar en claro que no sustituye las relaciones, la orientación ni el apoyo en el mundo real”, comentó Mario Micucci, investigador de seguridad informática de ESET Latinoamérica.
Entre las medidas incorporadas se encuentran protecciones específicas frente a contenidos relacionados con autolesiones, violencia gráfica, desafíos peligrosos, contenido sexual o romántico e inquietudes vinculadas con la imagen corporal. También se establecen límites adicionales para aquellas interacciones que puedan favorecer conductas consideradas de riesgo.
La intención, según OpenAI, es que la seguridad de los adolescentes ocupe un lugar prioritario, pero también que la tecnología fomente el apoyo en el mundo real y reconozca que un usuario menor de edad tiene necesidades diferentes a las de un adulto.
Uno de los aspectos que adquiere mayor relevancia es la participación de padres, madres y tutores. Mediante los controles parentales, los responsables pueden vincular su cuenta con la de un adolescente y configurar determinadas opciones de uso, entre ellas el modo de estudio y los horarios de silencio.
“Medidas de protección más sólidas para los adolescentes que usan ChatGPT u otros chatbots son un paso necesario, especialmente ante el creciente uso de la IA para aprender, comunicarse y buscar información”, agregó Micucci. Para el especialista, la seguridad y la privacidad deben incorporarse desde el diseño y evolucionar al mismo ritmo que la tecnología. Considerarlas una parte esencial de los productos, y no un complemento, será decisivo para generar confianza entre jóvenes, familias y escuelas.
Los desafíos derribados para crear el sistema
La discusión sobre la seguridad de los adolescentes ante la IA abarca mucho más que bloquear contenido inapropiado. Uno de los desafíos centrales es la antropomorfización, la tendencia a atribuir características humanas, emociones y vínculos afectivos a un sistema tecnológico. Para los adolescentes, esto adquiere una relevancia particular, debido a que ChatGPT no funciona únicamente como una herramienta de búsqueda o apoyo al estudio, sino también como un interlocutor disponible en cualquier momento.
(c) El Caribe
