Malasia e Indonesia se han convertido en los primeros países del mundo en bloquear Grok, el chatbot de inteligencia artificial de Elon Musk, tras descubrir que la herramienta estaba siendo utilizada para crear imágenes sexualmente explícitas de personas reales. Las autoridades de ambos países argumentan que la IA puede generar contenidos pornográficos y no consensuados, incluso de mujeres y menores. Musk, por su parte, ha calificado las críticas como un “pretexto para la censura”.
Las autoridades de ambos países confirmaron durante el fin de semana la suspensión del acceso a Grok, el asistente con IA integrado en la plataforma X, después de detectar casos en los que se empleó para alterar fotografías de usuarios, colocándolos en atuendos reveladores o escenas sexualizadas.
Primeros países en el mundo en prohibir Grok
El Ministerio de Comunicaciones de Malasia anunció que había emitido varios avisos a X a comienzos de año para reforzar las medidas de control de contenido, pero que la empresa “no abordó los riesgos inherentes del diseño de su plataforma”. La Comisión de Comunicaciones y Multimedia de Malasia explicó que Grok permanecerá bloqueado “hasta que se implementen salvaguardas efectivas” y pidió a los ciudadanos denunciar cualquier contenido dañino.
Por su parte, Meutya Hafid, ministra de Comunicaciones y Asuntos Digitales de Indonesia, declaró en Instagram que usar Grok para producir material sexualizado “es una violación de los derechos humanos, la dignidad y la seguridad en línea”. La funcionaria exigió además a Musk una aclaración formal sobre el funcionamiento de la herramienta.
Indonesia ya ha mostrado una postura firme frente al contenido sexual en internet: plataformas como OnlyFans y Pornhub se encuentran prohibidas desde hace años en el país, dentro de una política más amplia de control del contenido digital.
Testimonios de las víctimas
La polémica creció después de que varias mujeres indonesias denunciaran que sus imágenes habían sido manipuladas por usuarios de X utilizando Grok. Una de ellas, Kirana Ayuningtyas, usuaria de silla de ruedas que comparte su vida diaria en redes sociales, relató que un desconocido pidió a la IA que la mostrara en bikini.
Ayuningtyas explicó que intentó proteger su cuenta ajustando la privacidad y contactando con X para eliminar las imágenes, pero “nada de eso funcionó realmente”. Pese a pedir a sus amigos que reportaran las cuentas implicadas, se sintió aún más expuesta: “Al hacerlo, más personas veían las fotos editadas, lo cual es profundamente embarazoso”.
Reacción internacional y consecuencias para Musk
Las reacciones ante el caso se han extendido más allá del Sudeste Asiático. En el Reino Unido, la secretaria de Tecnología, Liz Kendall, respaldó los llamamientos para bloquear el acceso a X si la red social continúa sin cumplir las leyes de seguridad en línea. La decisión final está ahora en manos del regulador Ofcom, que analiza si las políticas de moderación de X violan la legislación británica.
El propio Elon Musk ha respondido asegurando que los críticos de su plataforma “buscan cualquier excusa para la censura”, mientras Grok y X enfrentan crecientes presiones por su papel en la proliferación de deepfakes y desinformación.
El primer ministro británico, Keir Starmer, calificó el uso de Grok para generar imágenes sexualizadas como “vergonzoso” y “repugnante”, sumándose a las condenas internacionales.
Un debate global sobre los límites de la inteligencia artificial
El caso ha reabierto el debate sobre la regulación del contenido generado por inteligencia artificial. Los llamados deepfakes (imágenes o vídeos creados mediante IA que imitan el aspecto de personas reales) plantean enormes desafíos éticos y legales, especialmente cuando se utilizan sin consentimiento.
Expertos en derechos digitales señalan que la capacidad de Grok para editar fotografías reales sin salvaguardas técnicas adecuadas convierte a la plataforma en un riesgo directo para la privacidad y la seguridad de los usuarios.
Mientras tanto, Malasia e Indonesia se presentan como pioneros en establecer límites a una tecnología cuyo uso se expande más rápido que su regulación. Su decisión podría inspirar medidas similares en otros países preocupados por los abusos de la IA generativa.
El futuro de Grok y la moderación en X
El bloqueo de Grok representa un golpe significativo para Musk, que había promocionado su chatbot como una alternativa “irreverente” frente a otros sistemas más moderados como ChatGPT o Gemini. La falta de filtros de seguridad, que en un principio fue un reclamo para los usuarios, se ha convertido en su principal talón de Aquiles.
Por ahora, ni Musk ni la compañía X han emitido una respuesta formal a las autoridades del Sudeste Asiático. Si el bloqueo se mantiene y otros países siguen el mismo camino, Grok podría enfrentarse a una crisis de reputación global, con efectos directos sobre el valor y la credibilidad de la plataforma.
Una advertencia sobre la IA sin control
El episodio pone de manifiesto el riesgo de desplegar sistemas de inteligencia artificial sin mecanismos efectivos para prevenir su mal uso. Las imágenes falsas creadas por Grok no solo afectan a la reputación de las personas implicadas, sino que revelan el vacío normativo en torno a la IA generativa, especialmente cuando se trata de proteger a mujeres y menores frente a contenidos sexuales no consentidos.
El caso de Malasia e Indonesia podría marcar un punto de inflexión global en la forma en que los gobiernos abordan la regulación de la inteligencia artificial. Y, aunque Elon Musk insiste en que se trata de “censura”, el resto del mundo parece preguntarse si, en realidad, no se trata de una necesaria defensa de la dignidad humana en la era digital.
