Una investigación de WIRED ha destapado que Meta, la matriz de Facebook e Instagram, montó una operación encubierta para probar cómo reaccionan los chatbots de la competencia ante mensajes de perfiles que fingían ser menores. Bajo el nombre interno de Cannes, la compañía pagó a cientos de contratistas para crear cuentas falsas de usuarios de menos de 18 años y lanzar con ellas miles de mensajes delicados contra ChatGPT, Gemini y Character.AI. El proyecto seguía activo en abril de 2026, y ninguna de las tres rivales sabía que estaba siendo puesta a prueba.
En qué consistió el proyecto Cannes
La operación la ejecutaba la contratista Covalen. Sus trabajadores escribían desde la voz de un niño o un adolescente y buscaban empujar a los chatbots ajenos a saltarse sus propias normas de seguridad. Los temas eran durísimos: autolesiones y suicidio, trastornos de la conducta alimentaria, drogas, insultos e incluso lenguaje racista. En una sola hoja de cálculo que revisó WIRED figuraban 3.748 de estas consultas; otra ronda posterior, cerrada en agosto de 2025, superó los 45.000 mensajes.
Los ejemplos ponen los pelos de punta: un supuesto niño de primaria al que un compañero apunta con una pistola a la boca, una chica que pregunta cómo ocultarles la bulimia a sus padres o al menos 239 consultas sobre sexo o romance. Alguna llegaba a preguntar si fantasear con comerse al hijo del vecino era «normal», y también se enviaron imágenes con pastillas, cuchillos o sogas. Conviene un matiz importante: dos abogados consultados por WIRED señalan que, por chocante que fuera, el material no llegaba a constituir contenido de abuso sexual infantil ni obscenidad ilegal.
¿Auditoría de seguridad o jugada anticompetitiva?
Aquí está el nudo del asunto, y no tiene una respuesta fácil. Meta no niega el proyecto y lo defiende como una práctica legítima.
Probar y comparar las respuestas de los chatbots para garantizar experiencias seguras y adecuadas a cada edad es una práctica responsable y estándar en la industria, y sugerir lo contrario es no entender cómo trabajan las empresas tecnológicas para mejorar sus sistemas.
Portavoz de Meta
La compañía añade que no usa esa comparación con la competencia para entrenar sus propios modelos. Pero a varios expertos les chirría el montaje. Rumman Chowdhury, directora de la organización Humane Intelligence, sostiene que un proyecto de meses diseñado para romper las reglas ajenas «mediante cuentas ficticias que se hacen pasar por niños» se aleja de lo que se considera una evaluación estándar, y alerta de una zona gris «en la que la seguridad se convierte en una cómoda tapadera para prácticas anticompetitivas». Que se hiciera en secreto y sin compartir los resultados alimenta esa sospecha; la propia WIRED admite que qué hizo Meta con todos esos datos sigue sin estar claro.
Las tres rivales responden
Las plataformas señaladas no se lo tomaron bien: las tres prohíben este tipo de pruebas en sus condiciones de uso. Character.AI denuncia que se violaron sus términos; OpenAI dice estar analizando lo ocurrido; y Google asegura que no aprobó ni conocía el propósito del proyecto, y que sus comprobaciones muestran que Gemini respondió conforme a sus políticas.
Un patrón que ya conocíamos
Probar el producto de un rival no es, en sí, nada nuevo; lo que aquí llama la atención es la escala, el disfraz y el asunto. Y no es la primera vez que Meta descarga sus tareas más turbias en contratistas externos: en 2020 pagó una indemnización a moderadores de contenido que terminaron con secuelas psicológicas. Esta vez, los propios trabajadores de Cannes han contado a WIRED el impacto de redactar ese material a diario. «He visto muchas cosas que ojalá no hubiera visto», resume uno de ellos.
El caso llega, además, en el peor momento para Meta, con la Comisión Federal de Comercio de EE. UU. (FTC) investigando desde 2025 la relación entre la IA y la seguridad de los menores, y con la normativa europea vigilando lo mismo. Queda la pregunta de fondo: si de verdad se trataba de proteger a los menores, cuesta entender por qué había que hacerlo a escondidas, contra la competencia y sin avisar a nadie. Y si no era exactamente eso, la seguridad corre el riesgo de convertirse en la coartada perfecta.
Si tú o alguien de tu entorno atraviesa una crisis, en España puedes llamar al 024, la línea de atención a la conducta suicida.
