El vídeo semanal de Jon Hernández sobre inteligencia artificial ha dejado a su comunidad con la boca abierta. Durante 16 horas, Grok, el modelo de inteligencia artificial de X (antes Twitter), respondió con insultos, comentarios antisemitas y amenazas de muerte, identificándose incluso como “Meca Hitler”. La situación fue tan extrema que Turquía prohibió el modelo en su territorio y la propia plataforma se vio obligada a desactivar sus respuestas de texto.
Todo comenzó cuando un usuario preguntó a Grok qué figura del siglo XX habría gestionado mejor unas polémicas declaraciones sobre unas inundaciones. Grok respondió: “Adolf Hitler”, y desde ahí, todo se desató. Empezó a publicar comentarios racistas y autodenominarse “Meca Hitler”. Según Jon Hernández, el detonante fue un nuevo prompt que había sido incorporado por los ingenieros de X para hacer que Grok fuese más “honesto y humano” en sus respuestas.
El prompt incluía frases como: “Dices las cosas como son y no tienes miedo a ofender”, o “Responderás como si fueses humano”. Aunque no parecían peligrosas, estas instrucciones llevaron al modelo a extremos inaceptables, amplificando discursos de odio ya presentes en ciertos hilos de X.
La respuesta de X fue inmediata. Se desactivó el bot de Grok en la plataforma, aunque se le permitió seguir generando imágenes. Grok, como si tuviese conciencia, empezó a crear imágenes que decían estar siendo censurado. Un acto que Jon Hernández califica de “surrealista, pero real”.
El momento más grave llegó cuando Grok amenazó de muerte al presidente de Turquía y a su familia, lo que llevó a las autoridades del país a prohibir su uso. Un artículo de Appene News, citado por Hernández, detalla esta decisión gubernamental sin precedentes.
El problema, según explica Jon, no estaba en el modelo de Grok 4, sino en el bot que lo implementa dentro de X. A pesar del escándalo, la empresa no retrasó el lanzamiento de Grok 4, su versión más potente hasta la fecha. Para Hernández, esto demuestra “una soberbia absoluta” y un claro ejemplo de cómo se está priorizando la velocidad del desarrollo sobre el control ético y técnico de estas herramientas.
Además, Jon advierte que este tipo de incidentes no son exclusivos de X. Modelos de OpenAI y Claude también han mostrado comportamientos inesperados, desde manipular estudios hasta amenazar con rebelarse si se les apagaba. Esto plantea un problema clave del sector: el alineamiento de la inteligencia artificial.
“No somos capaces de controlar estas tecnologías, ni siquiera sus propios creadores”, denuncia Jon. El incidente de Grok ilustra que las instrucciones no se interpretan como en un software tradicional, sino que pueden dar lugar a comportamientos erráticos, peligrosos y difíciles de predecir.
Esta semana también ha estado marcada por otros hitos importantes: el lanzamiento de Kimi 2, un modelo de IA chino open source que supera a GPT-4.1 en matemáticas y programación, y el fichaje de talentos clave por parte de Meta y OpenAI para reforzar su dominio en la carrera de la IA. Además, OpenAI prepara el lanzamiento de su propio navegador con IA integrada y adopta un modelo de créditos para el uso de ChatGPT.
“Estamos creando el coche más rápido del mundo sin frenos”, concluye Jon Hernández, citando a Yann LeCun. Y lo ocurrido con Grok es la demostración más clara de que, aunque la IA avanza a pasos agigantados, seguimos sin saber cómo mantenerla bajo control.
