El corazón de Facebook no está en sus servidores ni en sus oficinas de Silicon Valley, sino en un conjunto de fórmulas matemáticas: el algoritmo que decide qué aparece en la pantalla de cada usuario. Ese algoritmo tiene un objetivo muy concreto: lograr que pasemos el mayor tiempo posible dentro de la plataforma. Cuanto más tiempo permanecemos, más anuncios vemos, y cuanto más anuncios vemos, más gana la empresa.
Cómo funciona el algoritmo de las redes sociales
El algoritmo analiza cada acción del usuario (los clics, los likes, los comentarios, los vídeos que se ven hasta el final, los que se abandonan a los tres segundos) y construye un perfil de lo que nos engancha. Con esa información, organiza millones de publicaciones en cuestión de milisegundos para decidir qué sube a lo alto del muro y qué se queda escondido.
En la práctica, esto significa que Facebook no muestra una lista cronológica de publicaciones, sino una jerarquía optimizada para la permanencia. Los contenidos que generan ira y polémica escalan más rápido que los neutros o amables. Un estudio en la revista Science (2018) mostró que las noticias falsas se comparten un 70% más que las verdaderas porque apelan al miedo o la indignación. Y una investigación titulada «Higher contagion and weaker ties mean anger spreads faster than joy in social media (Mayor contagio y lazos más débiles hacen que la ira se propague más rápido que la alegría en las redes sociales)» confirmó que la ira viaja más rápido en redes sociales que la alegría o la tristeza.
Meta lo sabía. En 2016, un informe interno admitía que “nuestros sistemas de recomendación aumentan el problema del extremismo”. Sin embargo, la empresa no cambió su diseño, porque el modelo de negocio dependía de esa viralidad.
Cuando Facebook se convirtió en “internet” en Myanmar
La situación en Myanmar convirtió esta lógica en una bomba de relojería. Tras la apertura política de 2010, el país pasó de apenas dos millones de usuarios en 2014 a más de 30 millones en pocos años (Reuters). Para millones de birmanos, Facebook era internet: la red venía preinstalada en móviles baratos y se usaba como principal fuente de noticias.
Fue ahí cuando mensajes cotidianos y amables empezaron a perder la partida frente al odio. La señora Daw Mya podía compartir en el muro de la red social su receta de mohinga, la sopa nacional birmana. Pero esa publicación apenas circulaba entre familiares cercanos. En cambio, cuando un monje ultranacionalista subía un mensaje acusando a los rohinyás de “invadir el país”, el algoritmo lo empujaba a decenas de miles de usuarios.
El odio convertido en violencia
En agosto de 2017, tras un ataque del grupo insurgente ARSA contra puestos policiales, el Ejército birmano lanzó una ofensiva masiva en el estado de Rajine. Según Médicos Sin Fronteras, solo en el primer mes murieron 9.400 rohinyás, de los cuales 6.700 fueron asesinados directamente. En total, más de 700.000 personas huyeron a Bangladés en cuestión de semanas. Naciones Unidas calificó la operación como un ejemplo clásico de “limpieza étnica” (ONU).
El propio general Min Aung Hlaing, jefe de las Fuerzas Armadas, escribió en Facebook en septiembre de 2017: “Nuestro país no tiene ninguna raza rohinyá” (The New York Times).
La reacción tardía de Facebook
Hasta 2018, Facebook solo contaba con un moderador de habla birmana para revisar millones de publicaciones del país. Tras la presión internacional, la empresa eliminó las cuentas de varios generales y prometió contratar decenas de revisores adicionales. Mark Zuckerberg reconoció ante el Congreso de EE.UU. que “debemos hacer más en Myanmar”.
Pero para entonces, el daño ya estaba hecho. El relator de la ONU para Myanmar afirmó que Facebook se había convertido en la “radio de las Mil Colinas” versión 2.0, en referencia al medio que incitó al genocidio en Ruanda en 1994.
Amnistía Internacional y la exigencia de responsabilidades
En 2022, Amnistía Internacional publicó el informe La atrocidad social, denunciando que “los algoritmos de Facebook intensificaron una tormenta de odio contra la población rohinyá que contribuyó a la violencia en el mundo real”.
Su secretaria general, Agnès Callamard, subrayó: “Meta debe rendir cuentas. La empresa tiene la responsabilidad de proporcionar una reparación a todas las personas que sufrieron las consecuencias violentas de sus temerarias acciones”.
En 2021, refugiados rohinyás presentaron demandas en Estados Unidos y Reino Unido reclamando 150.000 millones de dólares en compensaciones. Otros grupos pidieron a Meta financiar proyectos educativos en los campos de refugiados de Cox’s Bazar, en Bangladés, pero la compañía rechazó la propuesta alegando que “Facebook no participa directamente en actividades filantrópicas”.
El futuro: regular los algoritmos
El caso rohinyá ha sido clave para que gobiernos y organismos internacionales exijan regulación de los algoritmos. La Unión Europea aprobó en 2022 la Ley de Servicios Digitales (DSA), que obliga a plataformas como Facebook a ser más transparentes con el funcionamiento de sus sistemas de recomendación y a evaluar el impacto de sus algoritmos en los derechos fundamentales.
En Estados Unidos, aunque no existe todavía una ley equivalente, se han abierto investigaciones del Congreso sobre Meta y otras tecnológicas (Comité Judicial del Congreso), y se discuten propuestas para exigir auditorías externas y mayor responsabilidad sobre contenidos dañinos amplificados por sus sistemas.
Organizaciones como Human Rights Watch y Amnistía Internacional reclaman que las grandes plataformas dejen de priorizar el beneficio económico sobre la seguridad de las personas y que se diseñen algoritmos centrados en el interés público y los derechos humanos, no únicamente en la viralidad.
La lección de Myanmar sigue viva: lo que allí comenzó con rumores y bulos amplificados por un algoritmo terminó en crímenes de lesa humanidad. Hoy, la gran pregunta es si el mundo aprenderá de esa tragedia o si volveremos a ver cómo una red social alimenta, sin quererlo, la próxima ola de violencia.
La fotografia de portada de este artículo pertenece a John Owens (VOA) – Publicación original, Dominio público, Enlace.
