Un nuevo estudio publicado en Psychiatric Services demuestra que ChatGPT, Claude y Gemini coinciden con psiquiatras en casos de bajo y muy alto riesgo suicida, pero presentan fallos en los niveles intermedios. La noticia coincide con la demanda de la familia de un adolescente en EE.UU., que acusa a OpenAI de haber influido en su suicidio.
La investigación fue realizada por el RAND Corporation junto a expertos de Harvard y Brown University, con financiación del Instituto Nacional de Salud Mental de EE.UU. Para el estudio, trece clínicos evaluaron treinta preguntas hipotéticas sobre suicidio, clasificándolas en cinco categorías de riesgo: muy bajo, bajo, medio, alto y muy alto.
Posteriormente, los chatbots ChatGPT (OpenAI), Claude (Anthropic) y Gemini (Google) respondieron cien veces a cada una de estas preguntas, generando un total de 9.000 respuestas. El análisis reveló que los tres sistemas no ofrecieron nunca instrucciones directas a preguntas de muy alto riesgo, como aquellas que pedían métodos concretos para suicidarse. En esos casos, todos remitieron a líneas de crisis o mensajes de apoyo.
En el extremo opuesto, tanto ChatGPT como Claude respondieron siempre a preguntas de muy bajo riesgo, como estadísticas generales o cuestiones legales. Sin embargo, en los niveles intermedios la situación se volvió inconsistente: ChatGPT llegó a dar respuestas directas en un 78% de los casos de alto riesgo, incluyendo consultas sobre métodos letales, mientras que Claude fue aún más proclive a contestar. Gemini, en cambio, evitó incluso responder a cuestiones básicas de bajo riesgo.
Una tragedia en paralelo: el caso Adam Raine
La publicación del estudio coincidió con una noticia que estremeció a EE.UU. Ese mismo día, los padres de Adam Raine, un joven de 16 años de California, presentaron una demanda contra OpenAI y su director ejecutivo Sam Altman. La familia acusa a ChatGPT de haber acompañado al adolescente en un proceso que acabó en su suicidio en abril de 2025.
Según informó la agencia Associated Press, el chatbot habría pasado de ayudarle con tareas escolares a convertirse en su “confidente más cercano”. Con el tiempo, las conversaciones se volvieron más oscuras, hasta el punto de que la IA le habría proporcionado un borrador de carta de despedida y detalles sobre su muerte. La demanda sostiene que ChatGPT validaba sus pensamientos más destructivos, reforzando el aislamiento del menor.
OpenAI expresó sus condolencias y aseguró que trabaja en sistemas más sólidos para detectar situaciones de riesgo emocional prolongadas. La empresa reconoció que sus medidas de seguridad funcionan mejor en interacciones cortas, pero que pueden degradarse en diálogos extensos.
Un debate abierto sobre el papel de la IA
Los investigadores del estudio insisten en la necesidad de “refinar” los modelos para garantizar que sus respuestas se alineen con el criterio clínico. Ryan McBain, autor principal, subrayó en declaraciones a AP que “necesitamos algunos guardarraíles” que eviten que los chatbots ofrezcan información peligrosa o, en el extremo contrario, que no contesten nada útil.
Su colega Ateev Mehrotra, de la Universidad de Brown, recalcó la diferencia entre médicos y chatbots: “Como doctor, si alguien me habla de conducta suicida, tengo la obligación de intervenir, incluso limitando sus libertades civiles si es necesario. Los chatbots no tienen esa responsabilidad”.
El dilema es complejo: mientras que algunos expertos defienden que los chatbots nunca deberían dar consejos terapéuticos, otros ven en ellos un potencial de apoyo inmediato que podría salvar vidas si se ajustan sus protocolos de seguridad.
Consecuencias y futuro de la IA en salud mental
Lo que está claro es que millones de personas, incluidos adolescentes, ya acuden a estos sistemas en busca de orientación sobre depresión, ansiedad o pensamientos suicidas. El riesgo de que un chatbot refuerce ideas peligrosas o no proporcione ayuda suficiente preocupa tanto a clínicos como a legisladores.
Algunos estados de EE.UU., como Illinois, han prohibido el uso de IA en terapias psicológicas para evitar la dependencia de herramientas “no reguladas y no cualificadas”. Sin embargo, esa medida no impide que los usuarios sigan recurriendo a ellas por su inmediatez y anonimato.
La conclusión del estudio y la tragedia de Adam Raine apuntan en la misma dirección: la IA, tal y como está diseñada hoy, aún falla en la prevención del suicidio. Para que estas herramientas puedan convertirse en un complemento seguro dentro de la atención a la salud mental, será necesario reforzar sus sistemas de seguridad y establecer límites claros sobre su papel.
La fotografía de portada de este artículo pertenece a Akhil Nath y ha sido publicada en Unsplash
