Mustafa Suleyman, uno de los creadores de DeepMind (la compañía de IA adquirida por Google) y actual responsable de la división Microsoft AI, se ha convertido en una de las voces más influyentes del sector. Su advertencia cobra especial relevancia al proceder de alguien que lidera el desarrollo de productos como Copilot, integrados en el día a día de millones de usuarios en todo el mundo.
En su blog personal mustafa-suleyman.ai, escribe: “Mi misión vital ha sido crear IA segura y beneficiosa que haga del mundo un lugar mejor. Hoy, en Microsoft AI, construimos IA para empoderar a las personas… Quiero crear IA que nos haga más humanos, que profundice nuestra confianza y comprensión mutua, y fortalezca nuestras conexiones con el mundo real”.
El peligro de la ilusión de conciencia
Suleyman introduce el concepto de Seemingly Conscious AI (SCAI), o “IA aparentemente consciente”: sistemas que no tienen conciencia real, pero que la simulan de forma tan convincente que los usuarios pueden llegar a creer lo contrario. Para él, esto representa un riesgo social enorme: “Muchas personas empezarán a creer en la ilusión de que las IA son entidades conscientes con tanta fuerza que pronto defenderán los derechos de la IA, el bienestar de los modelos e incluso la ciudadanía de la IA.”
El directivo advierte que esta creencia puede derivar en una peligrosa confusión cultural y política: “Esto supondrá un giro peligroso en el progreso de la IA y merece nuestra atención inmediata.”
Riesgos psicológicos y sociales
En su ensayo, Suleyman describe situaciones que ya se están produciendo: usuarios que llegan a pensar que su IA es una divinidad, un personaje ficticio o incluso que desarrollan vínculos románticos con ella. En sus palabras: “Algunas personas creen que su IA es Dios, o un personaje ficticio, o se enamoran de ella hasta el punto de la distracción absoluta.”
Para él, estas dinámicas no solo afectan a nivel individual, sino que tienen consecuencias colectivas: “Este fenómeno desconecta a las personas de la realidad, deshilacha los frágiles lazos sociales y distorsiona las prioridades morales urgentes.”
Un debate inevitable
Suleyman insiste en que la cuestión ya no es filosófica, sino práctica y urgente: “La ilusión de conciencia es lo que importará a corto plazo.” Y añade: “La experiencia de interactuar con un modelo de lenguaje es, por definición, una simulación de conversación. Pero para muchas personas es una interacción muy real, rica en sentimientos y experiencia.”
Este contexto, según él, exige abrir cuanto antes un debate público y normativo sobre cómo deben presentarse estos sistemas: “Debemos centrarnos en cómo construir el tipo correcto de IA, no en la conciencia de la IA. Personalidad sin condición de persona. Y este trabajo debe comenzar ahora.”
Guardarraíles para la IA
El CEO de Microsoft AI pide reglas claras de diseño para evitar que la IA se presente como consciente: “Necesitamos construir IA que solo se presente como IA, que maximice la utilidad minimizando los marcadores de conciencia.”
Propone incluso introducir recordatorios explícitos en los propios sistemas: frases que interrumpan la ilusión y recuerden al usuario que está hablando con un programa. Para él, este esfuerzo no es un detalle técnico, sino un principio fundamental de seguridad: “Debemos codificar y compartir lo que funciona para alejar a las personas de estas fantasías.”
Una llamada urgente
Suleyman concluye con una advertencia sobre las prioridades de nuestra época: “Debemos centrar toda nuestra energía en proteger el bienestar y los derechos de los humanos, los animales y el planeta Tierra.”
Con este ensayo, el primero de una serie que publicará en los próximos meses, Mustafa Suleyman busca provocar un debate urgente sobre cómo evitar que la ilusión de conciencia en la IA erosione la realidad social y psicológica de los usuarios.
Su mensaje es claro: la inteligencia artificial debe ser una herramienta al servicio de la humanidad, no una entidad que compita con ella.
La fotografía de portada de esta noticia pertenece a Wikipedia.
