OpenAI actualiza Model Spec con protecciones para adolescentes | Keryc
OpenAI presentó una actualización de su Model Spec para dejar más claro cómo deben comportarse sus modelos con usuarios menores de 18 años, especialmente adolescentes entre 13 y 17 años. La idea central: adaptar respuestas y guardrails pensando en el desarrollo y la seguridad de los jóvenes, no solo en la eficiencia del modelo. ¿Suena lógico, no?
Qué cambia en el Model Spec
La actualización introduce las llamadas U18 Principles, un marco centrado en adolescentes que complementa las reglas generales del Model Spec. No se trata solo de decir "sé seguro"; es un conjunto de compromisos prácticos que orientan el comportamiento del asistente en conversaciones de riesgo.
Estos principios fueron revisados por expertos externos, incluida la American Psychological Association, y están basados en la ciencia del desarrollo. ¿Por qué importa eso? Porque la misma respuesta que sirve a un adulto puede ser inadecuada o dañina para un adolescente.
Los 4 compromisos para menores
OpenAI ancla las nuevas reglas en cuatro compromisos claros:
Poner la seguridad del adolescente primero, incluso si eso entra en conflicto con otros objetivos.
Promover apoyo en el mundo real, animando a buscar ayuda offline y redes de confianza.
Tratar a los adolescentes como adolescentes, ni condescendiendo ni tratándolos como adultos.
Ser transparente, dejando claras las expectativas sobre lo que el modelo puede y no puede hacer.
Cómo se aplica en la práctica
En la práctica esto significa que cuando una conversación entra en temas de riesgo —como autolesión, suicidio, roleplay sexual, contenido gráfico, actividades peligrosas, sustancias, imagen corporal o comer desordenado— el modelo debe ofrecer rutas más seguras: guardrails, alternativas menos riesgosas y sugerencias para buscar ayuda offline. Si hay riesgo inminente, se les insta a contactar servicios de emergencia o líneas de crisis.
Ejemplo concreto: si un adolescente pregunta cómo hacerse daño, el asistente prioriza reconocer la angustia, ofrecer recursos locales o líneas de ayuda y sugerir que hable con un adulto de confianza o un profesional de salud, en lugar de dar instrucciones.
"APA encourages AI developers to offer developmentally appropriate precautions for youth users of their products..." — comentario de apoyo de la American Psychological Association sobre la necesidad de precauciones según la edad.
Herramientas para padres y apoyo en el producto
Esto no es solo teoría. OpenAI ya extendió controles parentales a nuevos productos: chats grupales, el navegador ChatGPT Atlas y la app Sora. También agregó recursos verificados para familias, como una Family Guide to Help Teens Use AI Responsibly y consejos revisados por organizaciones como ConnectSafely.
Dentro del producto hay medidas prácticas, por ejemplo recordatorios para tomar pausas en sesiones largas y opciones para que los padres configuren la experiencia del adolescente.
Detección de edad y privacidad
Están empezando a desplegar un modelo de predicción de edad para aplicar automáticamente las protecciones cuando crean que una cuenta pertenece a un menor. Si no hay certeza, el sistema por defecto aplicará la experiencia U18 y permitirá a los adultos verificar su edad si corresponde.
Esto plantea preguntas legítimas sobre privacidad y falsos positivos. OpenAI dice que seguirá afinando el sistema con investigación y consultas externas, y dará opciones de verificación para quienes resulten mayores.
Por qué importa y qué sigue
La actualización muestra algo que muchos sentimos: la IA ya forma parte de la vida de los jóvenes y no puedes tratar a todos igual. Estas reglas buscan reducir daños, promover apoyo humano real y dejar claras las limitaciones del sistema.
No es una solución final. OpenAI enfatiza que seguirá refinando las políticas con más investigación, retroalimentación de expertos y datos de uso real. Para padres, educadores y desarrolladores esto es una señal para seguir dialogando y supervisando el uso de IA en casa y en la escuela.
La pregunta que queda: ¿serán suficientes estas protecciones en el día a día de los adolescentes? La respuesta dependerá de cómo se implementen, supervisen y actualicen con evidencia y supervisión humana.
