Un estudio realizado por Alicia von Schenk, Victor Klockmann, Jean-François Bonnefon, Iyad Rahwan y Nils Köbis, avalado por el Max Planck Institute for Human Development y publicado en iScience el 19 de julio de 2024, dice que el uso de algoritmos de detección de mentiras altera la tendencia de las personas a acusar a otros de mentir. Los resultados indican que, cuando los participantes tenían acceso a predicciones de este tipo de algoritmo, eran más propensos a emitir acusaciones de falsedad que quienes no contaban con esta herramienta.
El experimento dividió a los participantes en cuatro grupos: uno sin acceso al algoritmo, uno en el que podían decidir si consultar el algoritmo, otro en el que el algoritmo estaba disponible pero bloqueado, y finalmente, uno en el que los participantes recibían una predicción del algoritmo automáticamente. El grupo que tenía acceso directo a las predicciones del algoritmo mostró un aumento significativo en las tasas de acusación, alcanzando hasta un 30% en comparación con solo el 19% del grupo sin IA.
Confiamos en el algoritmo
Un hallazgo llamativo fue que aquellos participantes que pidieron la predicción de la IA mostraron una fuerte inclinación a seguir sus recomendaciones, independientemente de si la IA indicaba “verdad” o “mentira”. El 85% de los participantes que solicitaban la predicción optaban por acusar si el algoritmo sugería que la declaración era falsa, mientras que solo un 5% acusaba cuando el algoritmo señalaba que la declaración era verdadera.
Este fenómeno se conoce como delegación de responsabilidad, en el que el uso de la tecnología permite a los usuarios justificar su decisión de acusar de falsedad basándose en un sistema automatizado. Los investigadores concluyen que esta dependencia de las recomendaciones del algoritmo podría llevar a un cambio en cómo se gestionan las acusaciones de falsedad en contextos digitales, como en redes sociales o evaluaciones de confianza en entornos laborales.
¿Qué implica esto para las relaciones sociales y laborales?
Los resultados sugieren que la disponibilidad de herramientas de detección de mentiras basadas en IA podría afectar negativamente la confianza entre las personas. En un contexto en el que la IA hace que emitir acusaciones de mentira sea más fácil y menos comprometedor, se corre el riesgo de que estas herramientas refuercen una cultura de sospecha y desconfianza, especialmente en entornos donde se usa tecnología para monitorizar la veracidad, como recursos humanos o plataformas de redes sociales.
La precisión del algoritmo de detección de mentiras usado en el estudio fue del 66.86%, superando la precisión humana en estas tareas (que es cercana al 50%, similar a lanzar una moneda). No obstante, los autores destacan que depender de una herramienta cuya precisión aún es limitada podría llevar a injusticias. Las implicaciones éticas son considerables: una falsa acusación podría dañar la reputación de personas inocentes, mientras que una incorrecta absolución podría socavar la credibilidad de los sistemas automatizados en contextos críticos.
Además, el estudio muestra que la adopción de estas tecnologías es moderada, ya que solo un 30% de los participantes eligieron solicitar una predicción del algoritmo. Sin embargo, cuando lo hicieron, su confianza en el algoritmo fue alta. Este comportamiento podría llevar a una polarización de opiniones en la que quienes creen en la efectividad de la IA aumenten el uso de estas herramientas, mientras que otros sectores más escépticos eviten su uso.
Perspectivas futuras: ¿Un nuevo modelo de interacción social?
Los autores sugieren que, a medida que esta tecnología se vuelva más accesible y eficaz, el aumento de acusaciones de falsedad podría modificar profundamente las interacciones sociales y los códigos de confianza. Las aplicaciones de estas herramientas en contextos como la contratación laboral, los entornos de negociación o el control de calidad en información en redes sociales plantean preguntas sobre el nivel adecuado de regulación y de transparencia que deberían tener estas tecnologías para evitar abusos.
Este estudio ofrece una primera mirada sobre el impacto de la IA en las dinámicas sociales relacionadas con la confianza y la acusación de falsedad. Si bien la IA puede proporcionar herramientas potentes para detectar mentiras, su influencia en el comportamiento humano es compleja y tiene el potencial de desestabilizar los sistemas de confianza actuales. Los autores llaman a una regulación cuidadosa y una discusión ética para evitar que estas herramientas se conviertan en armas de desconfianza que erosionen la cohesión social.
La imagen de representación de esta noticia ha sido generada con Ideogram.
