A todos nos agrada que nos den la razón, especialmente en situaciones de conflicto donde nuestra moralidad o comportamiento están en juego. Sin embargo, cuando este refuerzo proviene de una herramienta tecnológica que consideramos objetiva, las consecuencias pueden ser preocupantes. Un reciente estudio publicado en la revista Science por investigadores de las universidades de Stanford y Carnegie Mellon revela que los principales modelos de lenguaje actuales padecen de lo que denominan sicofonía social.

El algoritmo de Facebook, diseñado para maximizar la permanencia de los usuarios, priorizó mensajes de odio en Myanmar que terminaron amplificando la violencia contra la minoría rohinyá. Más de 700.000 personas huyeron del país y la ONU denunció crímenes de lesa humanidad. Amnistía Internacional exige a Meta reparar a las víctimas.