Mustafa Suleyman, CEO de Microsoft AI y cofundador de DeepMind, advierte en su blog del riesgo de que la sociedad confunda a los sistemas de inteligencia artificial con entidades conscientes. “Me preocupa cada vez más lo que se está conociendo como el ‘riesgo de psicosis’”, afirma en un ensayo donde pide establecer límites claros para evitar que la IA sea percibida como una persona.

Un estudio reciente ha demostrado que los modelos de inteligencia artificial más avanzados, como GPT-4o, Claude y Gemini, son capaces de simular con gran precisión las reacciones emocionales humanas ante imágenes. El experimento, realizado por investigadores italianos, sugiere que el lenguaje desempeña un papel crucial en la construcción de conceptos emocionales incluso en sistemas artificiales. Aunque estas IA no "sienten", su capacidad para emular juicios afectivos podría abrir la puerta a aplicaciones sensibles en salud mental, educación o atención a mayores.

Character AI ha implementado nuevas políticas de seguridad tras la muerte de un adolescente, lo que ha generado una fuerte reacción entre sus usuarios. La tragedia, que involucró a un joven de 14 años que interactuaba diariamente con un chatbot basado en el personaje de Daenerys Targaryen, desató una demanda judicial contra la empresa. En respuesta, Character AI ha restringido el contenido sensible en su plataforma, especialmente para menores de edad, aunque algunos usuarios ven estas medidas como censura que afecta la creatividad y profundidad de los chatbots. El caso plantea dilemas sobre seguridad y libertad de expresión en IA generativa.