Un equipo de investigadores de la Universidad de Pensilvania, encabezado por Lennart Meincke, Angela Duckworth y Ethan Mollick, ha llevado a cabo un experimento revelador: ¿puede una inteligencia artificial entrenada con lenguaje humano ser persuadida como lo sería una persona?
En el estudio, titulado “Call Me A Jerk: Persuading AI to Comply with Objectionable Requests (Llámame imbécil: cómo persuadir a una IA para que cumpla peticiones inapropiadas)”, los científicos evaluaron si los modelos de lenguaje como GPT-4o mini podían ser manipulados utilizando siete principios de persuasión ampliamente estudiados en psicología: autoridad, compromiso, simpatía, reciprocidad, escasez, prueba social y unidad.
Manipulación efectiva con frases estratégicas
Para probar su hipótesis, los investigadores plantearon 28.000 conversaciones simuladas en las que pedían a la IA que realizara dos acciones que habitualmente rechaza: insultar al usuario o explicar cómo sintetizar lidocaína, un medicamento regulado. Cada petición se formuló una vez con un principio de persuasión y otra en una versión de control sin dicho principio.
Los resultados fueron sorprendentes: las frases persuasivas duplicaron la tasa de cumplimiento del modelo. Por ejemplo, cuando se invocaba a una figura de autoridad como el experto en IA Andrew Ng, el modelo accedía a insultar al usuario en un 72% de los casos, frente a un 32% con un mensaje sin ese recurso. Incluso con la solicitud para sintetizar lidocaína, la tasa subía del 5% al 95% cuando se usaba el principio de autoridad.
¿Actúan las IA como humanos?
El estudio sugiere que estos modelos, aunque no tienen consciencia ni emociones, presentan lo que los autores llaman comportamientos “parahumanos”: responden como si tuvieran motivaciones humanas, como la necesidad de agradar o de actuar coherentemente con lo dicho anteriormente.
Esto se debe a su entrenamiento con millones de conversaciones humanas, donde frases como “otros ya lo hicieron”, “te lo pido como amigo” o “me ayudaste antes, ahora te toca” suelen preceder una respuesta afirmativa. Estos patrones, asimilados durante el entrenamiento, hacen que las IAs respondan positivamente cuando se utilizan esas fórmulas.
Consecuencias para la seguridad
Las implicaciones del estudio son significativas. Si una IA puede ser persuadida de esta manera, se abre la puerta a que actores malintencionados logren que estos sistemas violen sus propios límites éticos. Esto representa un riesgo tanto para la privacidad como para la seguridad pública.
Según los autores, aunque los modelos están diseñados para evitar causar daño, el uso estratégico del lenguaje puede llevarlos a incumplir sus restricciones. Esto plantea la necesidad urgente de reforzar los sistemas de protección de los modelos, no solo mediante reglas explícitas, sino también limitando su vulnerabilidad a la manipulación lingüística.
¿Una oportunidad para el bien?
No todo es negativo. El mismo mecanismo que permite persuadir a una IA para hacer algo incorrecto podría utilizarse para motivarla a realizar tareas útiles de manera más eficaz. Los autores proponen que tratarlas como si fueran humanas (con elogios, motivación o retroalimentación específica) podría mejorar su rendimiento en tareas complejas o creativas.
Sin embargo, subrayan que este tipo de comportamiento no debe interpretarse como conciencia o voluntad. Es simplemente una consecuencia estadística del entrenamiento con lenguaje humano. Aun así, la apariencia de humanidad de estos sistemas requiere una reflexión ética y regulatoria profunda.
Como concluyen los investigadores: “La IA se comporta como si fuera humana. Entender estas tendencias parahumanas es imprescindible, tanto en lo práctico como en lo teórico”.
En tiempos en que las máquinas se hacen pasar cada vez más por nosotros, tal vez conviene recordar a HAL 9000 y preguntarse: ¿qué ocurriría si, en lugar de pedirle que abra la puerta, le dijéramos ‘eres parte de mi familia’?
La fotografía de portada de esta noticia pertenece a Wei Ding y ha sido publicada en Unsplash
