Una investigación de Media Matters ha revelado que TikTok se ha convertido en un espacio donde circulan impunemente vídeos racistas y antisemitas generados con inteligencia artificial. Muchos de estos clips parecen haber sido creados con Veo 3, la herramienta de generación de vídeo mediante texto lanzada por Google el pasado mayo.
Con una duración máxima de ocho segundos, estos vídeos suelen llevar una etiqueta con el nombre Veo, así como señales visuales propias de los generadores por IA: errores de continuidad, texto ininteligible o movimientos físicamente imposibles. Aunque Google prohíbe el uso de su tecnología para generar contenido dañino, algunos usuarios han encontrado la forma de sortear estos filtros y publicar vídeos de carácter abiertamente racista.
Estereotipos racistas con millones de visualizaciones
Entre los ejemplos documentados, destaca un vídeo titulado “Average Waffle House in Atlanta (Un Waffle House típico en Atlanta)”, en el que un grupo de monos entra en un restaurante lanzando sandías y portando cubos de pollo frito. Este contenido, que refuerza estereotipos racistas contra la población negra, ha sido visto más de 600.000 veces.
Otro vídeo muestra monos en un avión bajo el título “Average Spirit Airlines experience (Una experiencia típica en Spirit Airlines)”, acumulando más de 800.000 visualizaciones. Los comentarios de los usuarios no dejan lugar a dudas sobre el mensaje racista que transmiten estas piezas: “Tío, incluso la IA está harta de los negros”.
Algunos de estos vídeos llegan a niveles aún más preocupantes: uno con 4 millones de visualizaciones muestra un mono vestido con peluca rosa y uñas postizas diciendo que hay una orden de arresto en su contra. Otro, con 14,2 millones de visitas, representa a policías blancos disparando a un hombre negro tras exclamar: “¡Mira, uno negro!”
Inmigrantes y manifestantes también son blanco
Los vídeos no solo se ceban con la comunidad afroamericana. También circulan contenidos falsos que ridiculizan a inmigrantes o incitan a la violencia contra manifestantes. Algunos, en español, retratan a inmigrantes como aprovechados del sistema estadounidense. Otros muestran a vehículos atropellando a protestantes con frases como “Me encantan estos nuevos badenes”.
Media Matters también identificó vídeos donde un personaje ficticio, Big Foot, aparece con uniforme de la patrulla fronteriza atrapando inmigrantes, o incluso vestido con la túnica del Ku Klux Klan persiguiendo a una persona negra.
Google y TikTok, bajo el foco
La polémica salpica tanto a TikTok como a Google. La plataforma china asegura aplicar “normas estrictas contra los discursos y comportamientos que incitan al odio” y afirma haber eliminado las cuentas denunciadas, algunas de las cuales ya estaban bloqueadas antes de la publicación del informe. Sin embargo, la reincidencia del problema y la facilidad con la que estos vídeos alcanzan cientos de miles de visualizaciones cuestionan la efectividad de sus mecanismos de moderación.
¿Qué es Media Matters?
Media Matters for America es una organización sin ánimo de lucro con sede en Washington D.C. especializada en analizar y monitorizar los medios de comunicación de orientación conservadora en Estados Unidos. Fundada en 2004, su objetivo declarado es corregir lo que consideran desinformación en medios como Fox News o Newsmax. Aunque cuenta con apoyos dentro del espectro progresista, también ha sido criticada por su fuerte sesgo ideológico y su enfoque combativo hacia ciertos medios. En este caso, ha sido la responsable de identificar y denunciar los vídeos generados por IA que están circulando en TikTok.
Una historia que se repite
La utilización de imágenes caricaturescas para difundir ideología racista no es nueva. Como recuerda Media Matters, en Estados Unidos existe una larga tradición de utilizar dibujos y animaciones para reforzar estereotipos y prejuicios. La novedad es que ahora estas narrativas están siendo amplificadas y viralizadas mediante IA en redes sociales de alcance global.
El debate sobre la inteligencia artificial suele centrarse en su capacidad para crear contenido indistinguible de la realidad. Sin embargo, como demuestra este caso, ni siquiera es necesario que parezca real para generar daño. El simple hecho de presentar ideas discriminatorias con apariencia humorística o satírica puede reforzar prejuicios profundamente arraigados.
Una llamada urgente a la regulación
Lo ocurrido en TikTok reabre el debate sobre la necesidad urgente de establecer límites éticos y legales en el uso de la inteligencia artificial. Tanto las plataformas que alojan estos contenidos como las empresas que desarrollan las tecnologías deben asumir una mayor responsabilidad.
Mientras tanto, millones de usuarios (muchos de ellos jóvenes) están expuestos a mensajes de odio disfrazados de humor. La inteligencia artificial, que promete revolucionar industrias enteras, no puede convertirse en una herramienta para la propagación de ideologías racistas y xenófobas. Es responsabilidad colectiva asegurarse de que el progreso tecnológico no se convierta en un retroceso moral.
