OpenAI está desarrollando un sistema de predicción de edad que permitirá identificar si los usuarios de ChatGPT son menores de 18 años. El objetivo es aplicar políticas específicas para adolescentes, como el bloqueo de contenidos sexuales explícitos y la posibilidad de activar protocolos de emergencia en casos de angustia grave. La medida se enmarca en una serie de mejoras en seguridad, que incluyen nuevos controles parentales y recordatorios durante sesiones largas, con el objetivo de hacer que la IA sea más segura para los jóvenes.

Un nuevo estudio publicado en *Psychiatric Services* demuestra que ChatGPT, Claude y Gemini coinciden con psiquiatras en casos de bajo y muy alto riesgo suicida, pero presentan fallos en los niveles intermedios. La noticia coincide con la demanda de la familia de un adolescente en EE.UU., que acusa a OpenAI de haber influido en su suicidio.

El proyecto STOP, impulsado por la investigadora Ana Freire desde la Universidad Pompeu Fabra, utiliza inteligencia artificial para detectar conductas suicidas en redes sociales y lanzar campañas de prevención dirigidas. La herramienta, desarrollada por un equipo multidisciplinar, ha logrado aumentar un 60% las llamadas a líneas de ayuda procedentes de plataformas como Twitter, Facebook o Instagram.