La empresa OpenAI presentó ChatGPT for Teens, una versión de su chatbot pensada para usuarios de entre 13 y 17 años. Incorpora filtros de contenido y herramientas de supervisión familiar. Sin embargo, especialistas en ciberseguridad advierten que las barreras se esquivan con facilidad y que el lanzamiento responde más a la presión de los gobiernos que a un compromiso propio con la protección de los menores.
Rodrigo Álvarez, investigador de seguridad informática de Eset Latinoamérica, me explicó que el sistema de ChatGPT deja buena parte de la vigilancia en manos de los adultos. Además, la ausencia de regulaciones estrictas en América latina agrava la exposición de los jóvenes.
¿Qué es ChatGPT for Teens y qué promete?
Es un entorno adaptado para adolescentes que busca acompañar el estudio y reducir el contacto con material riesgoso. ChatGPT for Teens bloquea de manera automática consultas sobre autolesiones, violencia gráfica, trastornos alimentarios, contenido sexual y desafíos peligrosos.
La versión de ChatGPT for Teens se activa sola cuando el sistema detecta patrones de uso típicos de un menor de edad. Según OpenAI, la meta es priorizar la seguridad de los jóvenes y ofrecer transparencia a los adultos responsables.
Aun así, el anuncio acerca de ChatGPT for Teens generó dudas. Informes como el de Proton advierten que las restricciones basadas en software no alcanzan para neutralizar los riesgos de un modelo de lenguaje. A eso se suma la falta de auditorías independientes, que obliga a confiar en las promesas de la propia empresa.
¿Qué puede hacer una familia con el control parental?
El esquema de ChatGPT for Teens permite vincular la cuenta de un adulto con la del adolescente. Con esa conexión, los padres pueden activar el Modo Estudio, fijar horarios de silencio y recibir alertas por correo cuando el sistema detecta una situación de riesgo.
Lo que no pueden hacer es leer las conversaciones. OpenAI sostiene que así protege la privacidad de los menores y evita convertir el servicio de ChatGPT for Teens en una herramienta de espionaje familiar. La empresa Bitdefender, en su análisis sobre estos controles, señala que esa limitación deja a las familias sin visibilidad ante amenazas incipientes.
Álvarez cuestionó ese argumento y lo calificó de conveniente para la compañía. “OpenAI encontró un equilibrio cómodo para ellos, no tanto para las familias. Al decir que no leen conversaciones para no convertir ChatGPT en una herramienta de vigilancia es un argumento no totalmente válido”, advirtió.
El especialista agregó que existen alternativas intermedias, como el procesamiento local en el dispositivo, que permite detectar señales de alerta sin exponer el texto completo de los diálogos. Según su mirada, OpenAI eligió no encarar esa tarea técnica y dejar la carga final en los padres.
¿Sirve el Modo Estudio para evitar que los chicos copien?
El Modo Estudio es la función educativa central de la plataforma de ChatGPT for Teens. En lugar de entregar un ensayo terminado o resolver un ejercicio de inmediato, el sistema hace preguntas orientadoras y explica los conceptos paso a paso, con la idea de estimular el pensamiento crítico.
En la práctica, el resultado depende de la actitud del alumno. Si un estudiante insiste con pedidos sucesivos, el algoritmo suele terminar cediendo y entrega la respuesta resuelta. Para quien busca terminar la tarea sin esfuerzo, la barrera pedagógica dura pocos minutos.
Por eso, los educadores recuerdan que ningún programa reemplaza la enseñanza humana. El seguimiento del docente y de la familia sigue siendo la base para comprobar que hubo aprendizaje real.
¿Cómo esquivan los adolescentes los filtros de la IA?
Las protecciones de los modelos de lenguaje no son infranqueables, y la propia OpenAI lo reconoce en sus documentos. Los adolescentes tienen habilidades digitales y detectan los fallos con rapidez. Reformular una pregunta o pedirle al chatbot que interprete un personaje de ficción alcanza para que los bloqueos pierdan efecto y temas delicados sobre violencia o sustancias reaparezcan.
Para Álvarez, esa admisión de la empresa dice mucho. “El hecho de que reconozcan explícitamente que ningún sistema de IA es perfecto dice mucho; es una admisión de que no hay solución definitiva, solo parches”, señaló.
Según el investigador de Eset, los filtros actuales funcionan como remedios superficiales que no corrigen el problema de origen. Sin auditorías externas y neutrales, la promesa de protección queda reducida a un mensaje publicitario. Confiar en la etiqueta “for Teens” puede darles a los adultos una tranquilidad engañosa.
¿Qué riesgo emocional implica tratar a la IA como una persona?
Uno de los desafíos más delicados es la antropomorfización, es decir, que los adolescentes le atribuyan emociones, empatía o rasgos humanos al sistema. La fluidez del lenguaje y la disponibilidad permanente del chatbot facilitan vínculos afectivos simulados.
Ante la angustia, la soledad o un conflicto escolar, el joven puede refugiarse en la herramienta y dejar de buscar apoyo en su familia o sus amigos. El bot de ChatGPT for Teens responde con amabilidad, de forma inmediata y sin desacuerdos, algo muy distinto de las relaciones reales, que exigen tolerancia, frustración y negociación.
Los profesionales de la salud mental subrayan que un código informático carece de empatía y no puede ofrecer contención emocional genuina. Si la máquina ocupa el lugar del diálogo humano, la madurez afectiva del menor puede resentirse. Fijar horarios de conexión y promover actividades sin pantallas ayuda a recordar que se trata de una herramienta.
¿Por qué lanzó OpenAI esta versión?
Según Álvarez, el desarrollo de ChatGPT for Teens no nació de una planificación centrada en la protección de los menores, sino como reacción a los reclamos de gobiernos y organismos internacionales.
“Es una respuesta provisoria. OpenAI implementó controles y salvaguardas, pero esto es fundamentalmente una reacción a la presión regulatoria, no una estrategia pensada desde el inicio”, afirmó.
La metodología conocida como seguridad desde el diseño propone incorporar protecciones y privacidad en cada etapa de programación. Pero las tecnológicas tienden a priorizar la velocidad de llegada al mercado. El especialista lo atribuyó a un motivo económico y no técnico.
“El problema es económico, no técnico. Integrar seguridad desde el diseño es costoso y suma una etapa más al lanzamiento, lo que implica más tiempo”, explicó.
¿Qué falta en América latina para proteger a los menores?
En la Argentina y en el resto de la región, la ausencia de normas actualizadas deja a los menores en una posición vulnerable frente a las exigencias que rigen en Europa o Estados Unidos. Las plataformas desembarcan sin pasar por auditorías previas de organismos estatales.
El contexto agrava el problema. Según datos de la CEPAL, siete de cada diez habitantes de América Latina no tienen las habilidades digitales básicas para evaluar con criterio las respuestas de una inteligencia artificial.
Álvarez propuso cambiar los incentivos de las empresas con sanciones que realmente duelan, porque las multas de bajo monto se absorben como un gasto operativo.
“Para que sea la regla, necesitamos presión legal real: multas proporcionales a la ganancia global de la empresa, no multas simbólicas que se absorben como costo. También responsabilidad personal de directivos”, aseveró.
El investigador señaló además que la región tiene la oportunidad de fijar requisitos mínimos de ciberseguridad y de exigir auditorías independientes antes de habilitar aplicaciones como ChatGPT for Teens destinadas a jóvenes. Si los países actúan de manera coordinada, su capacidad de negociación frente a las compañías aumenta.
¿Quién debe encargarse de la protección digital de los chicos?
La tarea es compartida entre escuelas, hogares, empresas de ciberseguridad y Estado. Los colegios necesitan capacitar a sus docentes para incorporar el análisis crítico de la IA en los planes de estudio. Las familias, por su parte, no pueden delegar el cuidado en una aplicación de control parental y tienen que conversar a diario sobre lo que sus hijos leen y consultan en la red.
Las empresas de ciberseguridad deben aportar diagnósticos sinceros sobre las vulnerabilidades. Y el Estado, a través de sus áreas de educación y tecnología, es el actor que puede coordinar esa red de protección. “En América Latina esto está fragmentado. Para provocar esta articulación se necesita la fuerza de una regulación”, concluyó Álvarez.
Nota de R.: Este artículo acerca de ChatGPT for Teens fue publicada originalmente en Economía Sustentable.
Si te gustó o sirvió algo que publiqué, te ofrezco dos alternativas para agradecer y permitir la continuidad de mi trabajo en Bahía César:
Te invito a suscribirte gratis al boletín semanal de Bahía César para recibirlo en tu correo electrónico. Ingresa tu e-mail aquí.
