El 23 de marzo de 2016, Microsoft lanzó a Tay, un bot conversacional diseñado para interactuar con jóvenes en Twitter. Su personalidad imitaba a una adolescente de 19 años. Pero el experimento se convirtió rápidamente en una pesadilla: en menos de 24 horas, Tay publicó mensajes racistas, sexistas y negacionistas. Microsoft la desconectó, avergonzada. Diez años después, la historia de Tay sigue viva como uno de los mayores fracasos de la inteligencia artificial moderna y un espejo incómodo del comportamiento humano en internet. ¿Hemos aprendido algo desde entonces?

Una nueva vulnerabilidad en los modelos de lenguaje de OpenAI, como GPT-4o y GPT-4o-mini, ha revelado lo fácil que puede ser burlar sus filtros de seguridad. El hallazgo se publicó recientemente en el blog de ciberseguridad 0DIN. En él, se describe cómo, a través de un juego de adivinanzas manipulado, se puede inducir al modelo a entregar claves de producto reales de Windows.