Tras anunciar una importante inversión en inteligencia artificial, el gigante chino Alibaba ha presentado su nuevo modelo de inteligencia artificial Wan 2.1, una herramienta de código abierto diseñada para la generación de imágenes y videos. El modelo fue compartido en GitHub, lo que permite a cualquier usuario con los conocimientos técnicos necesarios acceder a su código y modificarlo.
Sin embargo, en menos de 24 horas, comunidades en internet comenzaron a utilizarlo para generar contenido pornográfico, incluyendo deepfakes de personas sin su consentimiento. Esta situación ha reavivado el debate sobre los riesgos de la inteligencia artificial de código abierto y la responsabilidad de las empresas que desarrollan estas tecnologías.
🌟 Big News from @alibaba_cloud! 🌟
— Wan (@Alibaba_Wan) February 20, 2025
Meet WanX – our next-gen AI model redefining video generation !
🚀 Presenting mind-blowing demos from WanX 2.1！
🔥 Even more exciting:
WanX 2.1 will be OPEN-SOURCE !
Coming soon …#AIart #OpenSource pic.twitter.com/R1laOyJYAL
La plataforma Civitai y la rápida expansión de los modelos derivados
Uno de los primeros lugares donde apareció contenido generado con Wan 2.1 fue Civitai, una plataforma popular para compartir modelos de IA modificados. Esta web ya ha sido señalada anteriormente por permitir la distribución de modelos que pueden generar imágenes de personas reales sin su consentimiento.
En cuestión de horas, los modelos derivados de Wan 2.1 se descargaron cientos de veces, lo que aceleró la proliferación de videos pornográficos creados con IA. Aunque Civitai prohíbe explícitamente la distribución de material explícito no consensuado, la normativa de la plataforma no impide que los usuarios descarguen los modelos y los utilicen fuera del sitio.
El dilema de la IA de código abierto y la falta de control
Este caso no es aislado. La historia se ha repetido con otros modelos de IA generativa, como Hunyuan de Tencent, que también terminó siendo usado en comunidades dedicadas a la creación de deepfakes sexuales.
El problema radica en que, aunque el código abierto democratiza el acceso a la tecnología, también facilita su uso para fines poco éticos o incluso ilegales. Las regulaciones actuales no han evolucionado al mismo ritmo que estas herramientas, lo que deja un vacío legal en cuanto a la responsabilidad de las empresas que las desarrollan.
Por el momento, Alibaba no ha emitido declaraciones sobre la utilización de Wan 2.1 en la creación de contenido para adultos. No obstante, la controversia refuerza la necesidad de un debate global sobre el uso y las implicaciones de la inteligencia artificial generativa.
Alibaba apuesta fuerte por la inteligencia artificial
Más allá de la polémica, Alibaba continúa su expansión en el ámbito de la IA. La empresa ha destacado que Wan 2.1 sobresale en VBench, una clasificación de modelos generativos de video donde se evalúan aspectos como la calidad de las interacciones entre objetos en una escena.
Además, Alibaba está desarrollando QwQ-Max, un modelo de IA enfocado en el razonamiento, cuya versión final también será liberada como código abierto en el futuro. Esta estrategia refuerza la posición de la compañía como un actor clave en el mercado de la inteligencia artificial en China y a nivel global.
Inversión millonaria en infraestructura de IA
Para sostener su crecimiento en el sector, Alibaba ha anunciado una inversión de 52.000 millones de dólares en los próximos tres años para fortalecer su infraestructura de computación en la nube e inteligencia artificial. Esta cifra demuestra su compromiso con la expansión de sus capacidades tecnológicas y su intención de competir con gigantes como Microsoft, Google y OpenAI.
La llegada de Wan 2.1 representa un avance significativo en la inteligencia artificial generativa, pero también pone sobre la mesa un problema recurrente: el mal uso de la tecnología cuando no existen controles adecuados.
Si bien el código abierto impulsa la innovación, también permite que estas herramientas caigan en manos de quienes buscan explotarlas con fines poco éticos. La falta de regulación y la dificultad de rastrear a los responsables de estos usos indebidos son desafíos que la industria tecnológica aún no ha resuelto.
En este contexto, Alibaba y otras empresas del sector deberán encontrar un equilibrio entre el acceso abierto a la tecnología y la implementación de medidas que prevengan su uso para actividades ilícitas.
