Malasia e Indonesia se convierten en los primeros países del mundo en prohibir Grok, la inteligencia artificial de Elon Musk integrada en X, por permitir la creación de imágenes sexualmente explícitas sin consentimiento. Las autoridades denuncian que la herramienta viola la dignidad humana y pone en riesgo la seguridad digital.

La Agencia Española de Protección de Datos (AEPD) ha impuesto una sanción de 2.000 euros —reducida a 1.200 por pronto pago— al responsable de difundir un desnudo falso creado mediante inteligencia artificial (*deepfake*). La resolución, la primera de este tipo en Europa, coincide con las fechas del escándalo de Almendralejo, donde se viralizaron imágenes manipuladas de al menos 20 menores. La multa marca un precedente en la protección del derecho a la imagen en la era de la IA.

Una adolescente de Nueva Jersey ha demandado a la empresa responsable de la aplicación de inteligencia artificial ClothOff, acusándola de permitir la creación y distribución de material sexual explícito falso de menores. La joven, de 15 años, fue víctima cuando compañeros de clase usaron una foto suya en bañador para crear un desnudo manipulado. La denuncia sostiene que los responsables de la app diseñaron su tecnología “para producir imágenes sexualmente explícitas de personas reales, incluidas menores, sin su consentimiento”. Además, solicita al tribunal el cierre de la aplicación, la eliminación de todo el material generado y medidas contra Telegram, donde se compartieron las imágenes.

Una denuncia en EE.UU. señala que Meta habría pirateado y distribuido miles de vídeos para adultos como parte de una estrategia para entrenar su inteligencia artificial. Según los demandantes, la empresa utilizó estas películas para acelerar sus descargas en redes BitTorrent y alimentar sus modelos con imágenes humanas difíciles de obtener en otro tipo de contenidos. La demanda incluye pruebas técnicas que apuntan a direcciones IP vinculadas con Meta. La compañía niega los hechos. Si se confirma, el caso abriría un importante debate sobre la ética del entrenamiento de IA con material íntimo.

En este caso, al menos 20 menores de edad podrían haber sido víctimas de fotografías manipuladas mediante inteligencia artificial (IA). En estas fotografías, las caras de las víctimas habían sido recopiladas de sus perfiles de redes sociales y el cuerpo desnudo provenía de un modelo generativo de imagen con IA.

Meta utilizará la información vertida por los usuarios en las cuentas de sus redes sociales para entrenar su modelo de Inteligencia Artificial y habilita un formulario de contacto con el que reclamar ante este uso de la información personal.