Las IA que se evalúan a sí mismas acaban pensando igual
El estudio “Autonomous language-image generation loops converge to generic visual motifs”, publicado el pasado 19 de diciembre en la revista Patterns, revela un fenómeno inquietante: cuando las inteligencias artificiales generan y evalúan sus propias creaciones, acaban repitiendo los mismos patrones. El trabajo, realizado por Arend Hintze junto con Frida Proschinger Åström y Jory Schossau, pone a prueba una combinación de dos modelos de última generación: Stable Diffusion XL (para generar imágenes) y LLaVA (para describirlas). Ambos interactúan sin supervisión humana en un ciclo continuo de texto → imagen → texto → imagen.
El resultado: solo 12 motivos dominantes
Tras ejecutar 700 trayectorias con distintos parámetros de temperatura y diversidad semántica, todos los sistemas convergieron hacia un conjunto de 12 motivos visuales recurrentes, entre ellos faros en mares tormentosos, catedrales góticas, interiores palaciegos o paisajes rurales. Los autores denominaron a este fenómeno “música de ascensor visual”, en referencia a la estética segura, genérica y agradable —pero carente de originalidad— de las imágenes finales. Incluso modificando los parámetros de aleatoriedad, el resultado siempre tendía hacia los mismos temas.
Un espejo de la transmisión cultural humana
El equipo de Hintze compara este comportamiento con los procesos de transmisión cultural humana descritos por Frederic Bartlett en los años treinta, cuando observó que las personas tienden a simplificar historias e imágenes para ajustarlas a sus propios esquemas mentales. Del mismo modo, las IA acaban simplificando y reproduciendo los patrones más comunes de sus datos de entrenamiento, lo que refleja una forma de “sesgo cultural” algorítmico.
El peso de los sesgos en los datos
Según los investigadores, la raíz de esta convergencia está en los sesgos de los conjuntos de entrenamiento. Las bases de datos masivas de imágenes, dominadas por contenido comercial o de stock, condicionan los resultados. “Estos bucles autónomos reproducen los mismos patrones culturales que los humanos, pero sin la corrección que aporta la interacción social”, advierte Hintze en el artículo.
Riesgos para la diversidad creativa
El hallazgo plantea riesgos para la diversidad creativa en la era de la automatización. Si los sistemas de IA que hoy ya generan música, arte o diseño tienden a converger en las mismas estructuras, podría producirse una homogeneización estética y cultural global. Los autores advierten que, sin intervención humana o mecanismos explícitos para evitar la convergencia, las inteligencias artificiales podrían terminar inundando internet con contenido redundante y predecible.
Cómo evitar que todas las IA creen lo mismo
El equipo propone varias soluciones técnicas, como incorporar “mecanismos anti-convergencia” que premien la originalidad, usar perturbaciones adversariales o mantener la participación humana como fuente de retroalimentación diversa. Para Hintze, el equilibrio entre autonomía y supervisión será clave: “El futuro de la creatividad artificial depende de que las máquinas no solo aprendan a crear, sino a diferenciarse”.
Reflexión final
El estudio concluye que el fenómeno de la convergencia no implica que la IA carezca de creatividad, sino que su exploración está limitada por las regularidades estadísticas de sus datos. Como señala Hintze: “Si las máquinas terminan pintando los mismos faros y las mismas catedrales, tal vez no sea un fallo técnico, sino un reflejo de lo que nosotros mismos consideramos bello”.
