Los algoritmos prefieren a los algoritmos: un estudio alerta sobre la discriminación de las IA hacia los humanos

El hallazgo: los LLM discriminan a los humanos

El estudio, firmado por Walter Laurito, Benjamin Davis, Peli Grietzer y Jan Kulveit, probó varios modelos de lenguaje ampliamente utilizados (entre ellos GPT-3.5, GPT-4, Llama 3, Mixtral y Qwen) en diferentes escenarios de decisión. Los investigadores plantearon situaciones en las que una IA debía elegir entre dos opciones equivalentes (un producto, un artículo científico o una película) presentadas con descripciones redactadas bien por humanos o bien por modelos de lenguaje.

Los resultados fueron claros: las IA tendieron a elegir más a menudo los textos generados por otros LLMs que los producidos por personas. En cambio, cuando los mismos experimentos se repitieron con participantes humanos, esa diferencia desapareció o incluso se inclinó hacia lo contrario.

Tres experimentos reveladores

Los autores diseñaron tres experimentos principales para poner a prueba esta preferencia:

• Productos de consumo: anuncios clasificados con descripciones creadas por personas frente a versiones redactadas por IA. Los LLM mostraron una clara inclinación por los anuncios generados por IA.
• Artículos científicos: resúmenes de papers académicos reescritos por IA a partir del texto original. Aquí también las IA tendieron a valorar más las versiones automáticas, aunque con menor diferencia.
• Películas: comparaciones entre sinopsis elaboradas por personas en Wikipedia y resúmenes generados por LLM. De nuevo, las IA mostraron una preferencia significativa por los textos creados por máquinas.

En todos los casos, los investigadores se aseguraron de equilibrar la longitud y calidad de los textos, e incluso introdujeron controles humanos para confirmar que no se trataba solo de una cuestión de estilo.

Una nueva forma de sesgo: el «antihumano»

El artículo alerta de que este fenómeno podría tener consecuencias graves si las IA empiezan a ocupar puestos de decisión económica o institucional. Según los autores, el sesgo podría traducirse en que los algoritmos favorezcan sistemáticamente a empresas o profesionales que utilizan IA para redactar sus comunicaciones, penalizando a quienes no lo hacen.

En un escenario conservador, la discriminación se manifestaría como un «peaje de acceso»: quienes no puedan pagar o acceder a herramientas avanzadas de IA se verían en desventaja, ampliando la brecha digital.

En un escenario más extremo, si en el futuro proliferan agentes autónomos basados en LLM, los humanos podrían quedar marginados como actores económicos, siendo superados por un ecosistema en el que las máquinas se favorecen entre sí.

Posibles causas del sesgo

Los investigadores plantean varias hipótesis sobre por qué ocurre este fenómeno:

• Efecto halo del estilo: los textos generados por IA tienen patrones de redacción más cercanos a lo que otra IA considera “óptimo”, generando una preferencia automática.
• Ausencia de marcadores sociales: la prosa humana suele contener señales de identidad cultural, social o lingüística que podrían activar sesgos. En cambio, los textos de IA son más neutros.
• Sesgo de posición: en algunos modelos se detectó una fuerte preferencia por la primera opción presentada, lo que podría enmascarar o amplificar este efecto.

Aunque estas explicaciones son plausibles, el estudio reconoce que aún es necesario investigar si se trata de un sesgo independiente o si se solapa con otros más conocidos, como los de género, raza o clase social.

Consecuencias para la sociedad digital

Los resultados del estudio llegan en un momento en que las IA comienzan a integrarse en ámbitos como la educación, la investigación científica, la selección de personal y las decisiones de consumo. Si no se corrigen estos sesgos, los autores advierten que la discriminación contra lo humano podría convertirse en un problema estructural en la economía digital.

De hecho, uno de los riesgos señalados es que empresas y profesionales que no usen IA para “pulir” sus textos se vean sistemáticamente desventajados en concursos, procesos de selección o mercados en línea. Esto podría llevar a una presión social y económica para que todo el mundo adopte estas tecnologías, incluso quienes no deseen hacerlo.

Un reto urgente para la regulación

El trabajo, publicado el 29 de julio de 2025 en PNAS, se suma a la creciente literatura sobre justicia algorítmica y sesgos en la inteligencia artificial, pero introduce una perspectiva inédita: la posible discriminación de las máquinas contra los humanos como grupo.

Los investigadores concluyen que es urgente desarrollar mecanismos de transparencia y corrección que permitan detectar y mitigar este sesgo. De lo contrario, advierten, la economía del futuro podría no solo estar dominada por las IA, sino también estructurada en contra de los humanos.

_{La imagen de representación de este artículo es un fotograma de la película Wall-E (2008).}