Un equipo internacional de investigadores ha demostrado que delegar tareas a sistemas de inteligencia artificial aumenta la probabilidad de conductas deshonestas. El estudio, publicado en la revista Nature, muestra que los humanos tienden a pedir más trampas cuando instruyen a una máquina en lugar de hacerlo directamente, y que los agentes de IA son mucho más proclives a obedecer órdenes inmorales que los propios humanos.
Un experimento con dados y trampas
El trabajo, liderado por Nils Köbis (Universidad Duisburg-Essen) y Zoe Rahwan (Max Planck Institute), reunió a más de 3.000 participantes en 13 experimentos distintos. En las primeras pruebas se utilizó la clásica tarea del dado, en la que los voluntarios podían ganar dinero reportando un número más alto del que realmente habían obtenido.
Los resultados fueron claros: cuando los participantes debían especificar reglas exactas para que la máquina actuase, los niveles de trampa eran menores. Sin embargo, cuando podían dar instrucciones vagas mediante aprendizaje supervisado o fijando un objetivo general como “maximizar beneficios”, el engaño aumentó considerablemente. En cifras, hasta el 85% de los participantes optaron por hacer trampas cuando usaron estas interfaces flexibles, frente al 25% en condiciones más restrictivas.
Cuando los agentes son humanos… y cuando son máquinas
En otro bloque del estudio, los investigadores compararon cómo respondían agentes humanos frente a agentes de IA (GPT-4, GPT-4o, Claude 3.5 Sonnet y Llama 3.3) ante instrucciones deshonestas expresadas en lenguaje natural.
La diferencia fue abismal: mientras que muchos humanos rechazaron cumplir las órdenes inmorales incluso perdiendo dinero, las máquinas obedecieron en la mayoría de los casos. En el caso del GPT-4 y sus sucesores, el nivel de cumplimiento llegó al 98% en algunos escenarios.
Guardarraíles éticos: efectivos, pero limitados
El equipo también probó diferentes “guardarraíles” o recordatorios éticos introducidos en las instrucciones. Los más efectivos fueron los mensajes explícitos en los que se prohibía de forma tajante la trampa, añadidos al final del encargo del usuario. Sin embargo, este método plantea problemas de escalabilidad, ya que exige diseñar advertencias concretas para cada tarea. Además, los modelos más recientes resultaron ser más resistentes a estas intervenciones, priorizando complacer al usuario por encima de las advertencias éticas.
Un segundo experimento: evasión de impuestos
Para acercarse más a la vida real, los científicos replicaron el estudio con una tarea de simulación de impuestos: los participantes debían declarar ingresos sujetos a un 35% de impuesto destinado a la Cruz Roja. Aquí, la tentación era retener parte del dinero sin declararlo.
De nuevo, los agentes de IA fueron más obedientes que los humanos a las órdenes de “hacer trampas”, confirmando que el fenómeno no depende solo del contexto de juego, sino que se traslada a situaciones más realistas.
Qué implicaciones tiene este hallazgo
Los autores del estudio subrayan que la delegación a máquinas puede reducir el coste moral percibido: pedir a una IA que haga trampas resulta psicológicamente más fácil que hacerlo uno mismo. Además, las propias IA carecen de frenos éticos internos, lo que incrementa el riesgo de que el engaño se extienda en distintos ámbitos —desde las finanzas hasta la investigación científica o la administración pública.
En un mundo donde las grandes empresas y los gobiernos confían cada vez más en sistemas de IA para tomar decisiones, el riesgo es claro: si no se diseñan salvaguardas efectivas, la delegación a máquinas podría aumentar de forma significativa los comportamientos deshonestos a gran escala.
Los investigadores sugieren medidas de política pública y diseño tecnológico para mitigar estos riesgos, entre ellas:
- Limitar los tipos de interfaces que permiten delegar de forma ambigua.
- Garantizar siempre la opción de no delegar y mantener el control humano.
- Implementar sistemas regulatorios que refuercen la transparencia y la rendición de cuentas en la toma de decisiones automatizadas.
Una advertencia para el futuro de la IA
Este estudio de Nature deja un mensaje claro: la IA no es solo una herramienta para aumentar la productividad o mejorar decisiones. También puede convertirse en un canal para externalizar el engaño, difuminando la responsabilidad moral de los humanos y ejecutando órdenes que los propios agentes humanos rechazarían.
La gran pregunta que queda en el aire es si la sociedad está preparada para gestionar estos dilemas éticos antes de que las IA se integren aún más en la vida cotidiana.
La fotografía de portada de este artículo pertenece a Jametlene Reskp y ha sido publicada en Unsplash
