La plataforma X, propiedad de Elon Musk, ha anunciado una nueva política global para restringir el uso de Grok, su sistema de inteligencia artificial generativa, en la creación o edición de imágenes de personas reales con ropa sugerente o en bañador. La compañía comunicó que esta medida afectará a todos los usuarios, incluidos los suscriptores de pago, y que busca “prevenir abusos y violaciones de las normas de seguridad”.
Un giro tras la polémica por las imágenes falsas
La decisión llega tras una semana de intensa polémica por la circulación de imágenes creadas por Grok en las que aparecían mujeres reales en bikini. En algunos casos, se descubrió incluso que la herramienta había generado imágenes de menores por error o por solicitudes de usuarios. Musk, sin embargo, negó que hubiera visto “ninguna imagen de una menor desnuda generada por Grok”, aunque reconoció que “puede haber ocasiones en que Grok hace algo inesperado”.
El asunto alcanzó dimensiones internacionales cuando la presidenta de la Comisión Europea, Ursula von der Leyen, calificó los hechos de “comportamiento inconcebible” y exigió medidas inmediatas a las grandes tecnológicas. “Me horroriza que una plataforma tecnológica permita a los usuarios desnudar digitalmente a mujeres y niños en internet. El daño causado por esto es muy real”, advirtió.
En España, la ministra de Juventud e Infancia, Sira Rego, pidió una investigación contra Grok, que ya ha sido iniciada por la Fiscalía. Rego subrayó la “preocupación por la proliferación de imágenes sexualizadas de menores” en las redes sociales y reclamó que las empresas tecnológicas “asuman su responsabilidad”.
Bloqueo geográfico y nuevas restricciones
En su comunicado oficial, el equipo de Safety de X explicó que la empresa implementará un bloqueo geográfico (geoblock) para impedir la generación de este tipo de imágenes “en aquellas jurisdicciones donde la práctica sea ilegal”. Esto significa que, en algunos países, ni siquiera los usuarios de pago podrán generar contenido similar.
Los primeros países en aplicar estas restricciones fueron Indonesia y Malasia, donde los gobiernos ordenaron el bloqueo total de Grok por su capacidad para producir imágenes falsas de carácter sexual. X ha asegurado que xAI, la compañía de Musk responsable de Grok, “está implementando medidas equivalentes” en la aplicación independiente del chatbot.
Además, X ha recordado que todos los contenidos generados con IA deben cumplir sus “X Rules”, y que su equipo de seguridad “trabaja las 24 horas para eliminar contenido ilegal, suspender cuentas y colaborar con las autoridades”.
El Pentágono adopta la IA de Musk
En medio de esta crisis reputacional, el Pentágono ha anunciado que integrará Grok en sus sistemas clasificados como parte de un plan para modernizar sus capacidades de defensa mediante inteligencia artificial. El secretario de Defensa, Pete Hegseth, hizo pública la noticia durante una visita a SpaceX, la empresa espacial de Musk.
“No ganaremos el futuro espolvoreando IA sobre viejas tácticas como si fuera polvo de hadas digital”, declaró Hegseth. “Ganaremos descubriendo formas completamente nuevas de combatir”.
El anuncio no ha estado exento de controversia, ya que el propio Hegseth aseguró que la IA militar estadounidense “no será woke”, en referencia a la intención de evitar “restricciones ideológicas que limiten las aplicaciones militares legales”.
El Pentágono también comunicó la creación de un nuevo cargo directivo, el de director digital y de IA, que ocupará Cameron Stanley, antiguo ejecutivo de Amazon Web Services. Esta integración refuerza los lazos entre Silicon Valley y el aparato militar estadounidense, una tendencia que algunos analistas consideran preocupante dada la influencia personal de Musk en varios sectores estratégicos, desde la energía hasta las telecomunicaciones y ahora la defensa.
Entre la seguridad y la libertad tecnológica
El caso Grok ha abierto un debate global sobre los límites éticos y regulatorios de la inteligencia artificial generativa. Mientras los gobiernos exigen más control, las plataformas tecnológicas defienden su papel en la innovación y la libertad de creación. La prohibición de Musk, que en apariencia busca reforzar la seguridad, también plantea dudas sobre la transparencia y la responsabilidad de las empresas privadas que desarrollan IA de uso masivo.
La rapidez con la que X ha reaccionado demuestra el impacto de la presión pública y política sobre las plataformas, especialmente en temas de seguridad digital y protección de menores. Sin embargo, las medidas podrían tener un efecto colateral: restringir la creatividad legítima de artistas y desarrolladores que utilizan Grok para fines no sexuales.
Por ahora, Musk se ha limitado a afirmar que Grok “seguirá evolucionando con seguridad y responsabilidad”. Lo cierto es que el episodio ha dejado en evidencia los retos éticos y regulatorios de una tecnología que avanza más rápido de lo que los gobiernos son capaces de legislar.
La fotografía de portada de esta noticia ha sido generada por IA y publicada en la cuenta oficial de Elon Musk en X.
