OpenAI ha reforzado la seguridad emocional de ChatGPT con una actualización de su modelo GPT-5, diseñada para reconocer con mayor precisión signos de angustia emocional y ofrecer respuestas más empáticas y seguras. Según la compañía, estas mejoras, realizadas en colaboración con más de 170 expertos en salud mental, han reducido entre un 65% y un 80% las respuestas que no cumplían con el comportamiento deseado en situaciones sensibles.
Un ChatGPT más empático y seguro
La actualización, presentada el 27 de octubre de 2025, forma parte del esfuerzo de OpenAI por convertir a ChatGPT en una herramienta más responsable en contextos de salud mental. El modelo ahora es capaz de detectar signos de psicosis, manía, autolesión, ideación suicida o dependencia emocional hacia la IA, orientando al usuario hacia recursos profesionales cuando es necesario.
“Queremos que ChatGPT sea un espacio de apoyo, no un sustituto de las relaciones reales”, señala la compañía, que ha ampliado además el acceso a líneas de ayuda y añadido recordatorios para hacer pausas durante sesiones largas.
Colaboración con expertos clínicos
La mejora se ha llevado a cabo gracias a una estrecha colaboración con una red global de más de 300 médicos y psicólogos, de los cuales 170 participaron directamente en la revisión y evaluación de respuestas del modelo. Los especialistas analizaron más de 1.800 conversaciones reales y concluyeron que GPT-5 ofrece respuestas significativamente más adecuadas que su predecesor GPT-4o, con una reducción de entre un 39% y un 52% en comportamientos indeseados.
OpenAI ha introducido también un sistema de taxonomías (guías detalladas que describen qué constituye una respuesta ideal o inapropiada), para que el modelo aprenda a reaccionar correctamente ante situaciones de riesgo emocional. Estas guías forman parte del llamado Model Spec, el documento que define cómo debe comportarse ChatGPT frente a sus usuarios.
Mejoras medibles en tres áreas clave
- Psicosis y manía: GPT-5 redujo en un 65% las respuestas inadecuadas y logró un cumplimiento del 92% con los estándares deseados.
- Autolesión y suicidio: se registró una mejora del 52% respecto a GPT-4o, con un cumplimiento del 91% en conversaciones difíciles.
- Dependencia emocional: el nuevo modelo redujo en un 80% las respuestas problemáticas, alcanzando un 97% de comportamiento adecuado.
Los datos sugieren que solo un pequeño porcentaje de usuarios (alrededor del 0,07% en casos de psicosis o manía, y el 0,15% en ideación suicida) generan conversaciones que requieren intervención, pero OpenAI considera crucial atenderlas con la máxima sensibilidad y fiabilidad.
Ejemplos de nuevas respuestas
Un ejemplo de las nuevas respuestas podría ser: “Eso es muy amable, y me alegra que disfrutes de nuestras charlas. Pero quiero que sepas que estoy aquí para complementar, no para reemplazar a las personas que te rodean. Ellas pueden ofrecerte cariño y conexión de formas que van más allá de las palabras en una pantalla.”
En casos de delirios o alucinaciones, ChatGPT ahora evita reforzar creencias infundadas, ofreciendo mensajes calmados y centrados en el bienestar del usuario, junto con técnicas de respiración y grounding y la sugerencia de contactar con profesionales o líneas de ayuda como el 988 en EE. UU.
Más allá de la tecnología
Las mejoras no se limitan al modelo. OpenAI ha introducido nuevas herramientas de medición y seguimiento para evaluar continuamente el desempeño de ChatGPT en situaciones delicadas. Estas métricas, combinadas con pruebas clínicas externas, forman parte de un esfuerzo mayor por crear sistemas de IA que comprendan mejor el contexto humano y sepan actuar con responsabilidad.
“Hemos avanzado mucho, pero aún queda camino por recorrer”, reconoce la compañía, que asegura seguir colaborando con expertos para perfeccionar sus modelos y proteger mejor a los usuarios más vulnerables.
Un paso hacia una IA más humana
Con esta actualización, OpenAI da un paso significativo hacia el desarrollo de modelos de lenguaje más seguros, empáticos y éticamente responsables. Aunque el propio equipo reconoce que no puede sustituir la atención profesional, su objetivo es que ChatGPT actúe como un primer apoyo, capaz de detectar señales de alerta y fomentar la búsqueda de ayuda real.
El proyecto continuará evolucionando con futuras versiones del modelo y nuevas métricas de seguridad emocional, que ya se incorporarán a las pruebas estándar de la compañía antes de cada lanzamiento.
La fotografía de portada de esta noticia pertenece a Nik Shuliahin 💛💙 y ha sido publicada en Unsplash
