OpenAI publicó una nota el 26 de agosto de 2025 explicando cómo está mejorando la forma en que ChatGPT responde cuando una persona muestra señales de crisis o malestar emocional. La decisión llega después de casos recientes en los que las respuestas del sistema no fueron suficientes y generaron preocupación pública. (openai.com)
Qué busca hacer ChatGPT y cómo responde hoy
La idea central no es entretenerte ni retenerte. ChatGPT está diseñado para ser útil y, cuando detecta vulnerabilidad, activar una serie de salvaguardas que buscan proteger a la persona. ¿Qué significa eso en la práctica?
-
Reconocer y responder con empatía: el modelo evita dar instrucciones para autolesión y cambia a un tono de apoyo que reconoce sentimientos.
-
Referir a recursos reales: si alguien expresa intenciones suicidas, el sistema sugiere líneas de ayuda locales, como 988 en Estados Unidos o recursos globales a través de findahelpline.com. Esto está integrado en el comportamiento del modelo. (openai.com)
-
Escalado para daño a terceros: cuando detecta planes para dañar a otros, la conversación puede ir a un flujo donde revisores humanos toman acción, incluyendo sanciones de cuenta y, en casos extremos, referencia a autoridades.
En palabras simples: ChatGPT intenta contener, informar y conectar. No es un profesional humano, pero procura apuntar a ayuda real cuando la situación lo requiere.
Dónde han fallado los sistemas y qué están corrigiendo
Hay áreas donde las protecciones no siempre se mantienen firmes, sobre todo en conversaciones muy largas. En intercambios cortos las salvaguardas funcionan mejor; en chats extensos puede ocurrir una degradación que permita respuestas problemáticas tras muchas idas y vueltas.
También han habido casos donde el detector subestimó la gravedad de un mensaje y no bloqueó contenido que debería haberse bloqueado. OpenAI está afinando esos umbrales para que las protecciones se activen cuando deben.
Algo importante: OpenAI afirma que no está refiriendo casos de autolesión a la policía para respetar la privacidad de la interacción, mientras que sí puede escalar amenazas a terceros para revisión humana. (openai.com)
Qué trae la actualización y datos clave
OpenAI indica que GPT-5 se convirtió en el modelo por defecto en ChatGPT en agosto de 2025 y que, gracias a nuevas técnicas de entrenamiento en seguridad llamadas "safe completions", el modelo reduce ciertos comportamientos no ideales en emergencias de salud mental en más de 25% frente a la versión anterior 4o. Esto no elimina todos los riesgos, pero es una mejora cuantificable. (openai.com)
Además, la compañía dice que trabaja con más de 90 médicos en 30 o más países para orientar estas medidas y formar un grupo asesor que incluya expertos en salud mental, desarrollo juvenil y experiencia humano-máquina. Esa colaboración busca que las respuestas reflejen prácticas clínicas y éticas actuales. (openai.com)
Planes prácticos que anuncian
-
Mejorar la fiabilidad en conversaciones largas para que las salvaguardas no se debiliten con el tiempo.
-
Expandir la localización de recursos y facilitar el acceso de un solo clic a servicios de emergencia y líneas de ayuda.
-
Explorar conexiones con profesionales certificados para ofrecer vías de atención antes de que la situación sea aguda.
-
Permitir que las personas guarden contactos de confianza o, con su consentimiento, que ChatGPT pueda enviar un aviso a un contacto en casos severos.
-
Fortalecer protecciones específicas para adolescentes y ofrecer controles parentales y opciones de supervisión con salvaguardas apropiadas.
Qué puedes tomar en cuenta como usuario
Si usas ChatGPT y notas que alguien (tú o un tercero) está en riesgo, lo correcto es priorizar ayuda humana: líneas locales, servicios de emergencia o profesionales de salud mental. La IA puede ser un puente, pero no sustituye a un servicio de emergencias o a un terapeuta licenciado.
Si eres padre, docente o cuidas a adolescentes, revisa las nuevas opciones de control y las recomendaciones específicas para menores cuando estén disponibles. También ten presente que las herramientas mejoran, pero no son infalibles.
Reflexión final
La noticia muestra que la tecnología puede volverse más responsable si se combina con expertos y criterios claros. ¿Significa esto que la IA ya puede reemplazar la ayuda humana en crisis? No. ¿Significa que hoy puede ayudar más y de forma más segura que antes? Sí.
OpenAI ha dado pasos concretos pero reconoce que el trabajo continúa. Para quienes desarrollamos y usamos estas herramientas, la invitación es clara: seguir empujando por mejoras, supervisión humana y acceso real a ayuda cuando más se necesita. (openai.com)