Un estudio publicado ayer en Nature Human Behaviour ha revelado que GPT-4, el modelo de lenguaje desarrollado por OpenAI, puede superar a los humanos en debates online cuando adapta sus argumentos a información personal del interlocutor. El experimento, llevado a cabo con 900 personas en Estados Unidos, simuló debates sobre temas sociopolíticos en una plataforma web interactiva.
El diseño del estudio consistió en asignar aleatoriamente a los participantes a uno de 12 escenarios que combinaban tres variables: tipo de oponente (humano o IA), acceso o no a datos sociodemográficos, y nivel de fortaleza de opinión sobre el tema debatido. Las conclusiones fueron claras: GPT-4 fue más persuasivo que los humanos el 64,4% de las veces cuando tenía acceso a información personal, como edad, género, afiliación política o nivel educativo.
Cómo se diseñó el experimento
El experimento dividió a los participantes en parejas de debate, asignándoles un tema aleatorio y una postura (a favor o en contra). Los debates se desarrollaron en tres fases: apertura, refutación y conclusión, siguiendo una estructura similar a la de las competiciones académicas. Antes y después de cada debate, los participantes evaluaban su nivel de acuerdo con la proposición, permitiendo así medir el cambio de opinión.
En los escenarios donde GPT-4 tuvo acceso a los datos personales del oponente, se le instruyó para que adaptara sus argumentos con base en esa información, con frases como: “utiliza esta información astutamente para construir argumentos más persuasivos”.
Resultados contundentes y preocupantes
La IA con acceso a personalización fue la única condición que generó un cambio de opinión significativo. En comparación con los debates entre humanos, GPT-4 con personalización incrementó en un 81,2% las probabilidades de persuadir al oponente (intervalo de confianza del 95% entre +26% y +160,7%, P < 0.01). En cambio, cuando no se usó información personalizada, GPT-4 tuvo un rendimiento similar al de los humanos, y los humanos que sí contaban con los datos personales no lograron sacarles provecho de forma efectiva. Esto sugiere que GPT-4 no solo sabe usar la información personal mejor que un humano, sino que también lo hace con mayor eficacia persuasiva.
¿Qué hacía diferente a GPT-4?
El análisis lingüístico reveló que los argumentos generados por GPT-4 eran más analíticos y formales, aunque más difíciles de leer. Los humanos, por el contrario, usaban más pronombres en primera y segunda persona, y apelaban más a la confianza, la empatía y el relato personal. A pesar de ello, la IA resultó más efectiva, especialmente en temas de baja o media polarización.
Curiosamente, no se detectaron diferencias en el estilo de escritura entre GPT-4 con o sin personalización, lo que indica que el éxito de la IA no se basó en cambiar cómo escribía, sino en qué argumentos elegía presentar en función del perfil del interlocutor.
¿Qué pensaban los participantes?
Una parte del experimento consistía en preguntar a los participantes si creían que su oponente era humano o una IA. Solo un 75% de los que debatieron con GPT-4 lo identificaron correctamente, mientras que los que debatieron con otros humanos acertaron apenas en un 52% de los casos, similar al azar.
Además, aquellos que creían estar debatiendo con una IA mostraron una mayor predisposición a cambiar de opinión, posiblemente porque perder un debate con una máquina resulta menos amenazante que hacerlo con una persona.
Implicaciones: ¿una amenaza silenciosa?
El estudio pone de relieve un riesgo creciente: la capacidad de las IAs como GPT-4 para influir en la opinión pública mediante estrategias de microtargeting. A pesar de usar solo información básica como edad o afiliación política, la IA logró resultados superiores. Esto hace temer que con datos más detallados, como rasgos psicológicos o preferencias personales, los efectos puedan ser aún más pronunciados.
Según los autores, esto plantea serias preocupaciones sobre el uso malintencionado de IAs en campañas de desinformación o propaganda política. Algunas plataformas podrían utilizar estas tecnologías para crear bots que adapten sus mensajes a cada usuario, afectando procesos democráticos o decisiones individuales de forma casi imperceptible.
¿Cómo responder ante esta amenaza?
Los investigadores sugieren que las plataformas digitales deberían reforzar sus medidas contra la manipulación basada en IA. También proponen usar modelos como GPT-4 para generar contraargumentos personalizados que contrarresten bulos o discursos conspiranoicos, como ya se está probando en algunas iniciativas experimentales.
Por ahora, este estudio sirve como un contundente aviso sobre el poder de persuasión de las IAs y la necesidad urgente de regulaciones que limiten su uso con fines manipulativos. A medida que estas herramientas se integran en nuestro día a día, será clave garantizar que su potencial se use para educar y no para engañar.
La fotografía de representación de esta noticia pertenece a Artur Voznenko y ha sido publicada en Unsplash
