OpenAI ha detallado nuevas medidas de seguridad orientadas a adolescentes en ChatGPT, con el anuncio de un sistema de predicción de edad en desarrollo y la introducción de controles parentales avanzados. La iniciativa refleja un esfuerzo por equilibrar tres ejes en tensión constante en el uso de la inteligencia artificial: seguridad, privacidad y libertad.
Predicción de edad: IA que distingue entre adultos y adolescentes
OpenAI reconoce que la forma en que responde un modelo de lenguaje a un usuario de 15 años no debería ser la misma que a un adulto. Por ello, está construyendo un sistema que permita diferenciar de forma automática a usuarios mayores y menores de 18 años.
- Usuarios menores de edad: tendrán acceso a una versión de ChatGPT con políticas específicas, como el bloqueo de contenido sexual gráfico y restricciones sobre temas de autolesión o suicidio. En casos excepcionales de angustia grave, la compañía contempla alertar a los padres o, si no fuese posible, incluso notificar a las autoridades.
- Usuarios adultos: mantendrán la experiencia completa, aunque si el sistema no logra determinar con certeza su edad, se aplicará por defecto la experiencia restringida. Los adultos podrán verificar su edad para desbloquear las capacidades plenas.
El reto es significativo: incluso los sistemas más sofisticados pueden fallar en la estimación de edad. OpenAI ha optado por un enfoque de “precaución por defecto”, priorizando siempre la seguridad adolescente.
Controles parentales: supervisión más granular
Mientras evoluciona el sistema de predicción, OpenAI apuesta por controles parentales como la herramienta más confiable para las familias. Estos estarán disponibles antes de final de mes y ofrecerán:
- Vinculación de cuentas: padres y madres podrán enlazar su perfil con el de su hijo (a partir de 13 años).
- Guía en el comportamiento del modelo: opciones para adaptar las respuestas de ChatGPT a reglas específicas para adolescentes.
- Gestión de funciones sensibles: posibilidad de desactivar el historial de chats o la memoria.
- Alertas en emergencias: notificaciones automáticas si se detectan señales de angustia grave en el menor.
- Horarios de uso: un nuevo control permitirá definir “horas de apagado” en las que el adolescente no podrá acceder a ChatGPT.
Estas medidas se suman a las funciones ya disponibles para todos los usuarios, como recordatorios para hacer pausas en sesiones largas.
Un desafío ético y tecnológico
OpenAI es consciente de que este enfoque abre un debate complejo:
- Privacidad vs. seguridad: la verificación de edad o la predicción automática pueden percibirse como una invasión de la privacidad, aunque se argumenta como necesaria para la protección.
- Libertad vs. restricción: los adultos conservarán un margen más amplio de libertad, mientras que los adolescentes tendrán interacciones más limitadas.
- Confianza vs. intervención: involucrar a padres o autoridades en situaciones críticas puede generar controversia sobre hasta qué punto debe llegar la supervisión digital.
La compañía asegura que está trabajando en estas medidas de la mano de expertos, asociaciones y legisladores para refinar su aplicación y mantener la confianza de la sociedad.
Conclusión
La apuesta de OpenAI por integrar un sistema de predicción de edad y controles parentales refuerza su mensaje: la seguridad de los adolescentes está por encima de la privacidad y la libertad. En un contexto donde millones de jóvenes ya utilizan ChatGPT en entornos educativos, sociales y personales, la implementación de estas medidas podría marcar un precedente global en la regulación de la interacción de menores con la inteligencia artificial.
Preguntas frecuentes
¿Qué es la predicción de edad en ChatGPT?
Un sistema que estima si un usuario es mayor o menor de 18 años para aplicar políticas diferenciadas de seguridad y contenido.
¿Qué restricciones tendrán los adolescentes en ChatGPT?
Se bloquearán contenidos sexuales explícitos, interacciones sobre autolesión y, en casos de crisis, se notificará a padres o autoridades para proteger al menor.
¿Qué ofrecen los controles parentales?
Permiten enlazar cuentas, configurar reglas de comportamiento del modelo, limitar funciones como el historial, recibir alertas en emergencias y definir horarios de uso.
¿Cómo afectará esto a los adultos?
En caso de duda sobre la edad, se aplicará por defecto la experiencia restringida, pero los adultos podrán verificar su identidad para recuperar el acceso completo.
