Meta lleva a los tribunales a los creadores de CrushAI
Meta ha dado un paso firme contra la proliferación de aplicaciones que generan imágenes falsas de desnudos mediante inteligencia artificial, conocidas como apps nudify Este jueves, la empresa presentó una demanda en Hong Kong contra Joy Timeline HK Limited, la compañía detrás de CrushAI, por utilizar sus plataformas para anunciar este tipo de servicios sin consentimiento. La demanda, anunciada desde Nueva York por la agencia EFE, tiene como objetivo impedir que estas aplicaciones sigan anunciándose en Facebook, Instagram y WhatsApp. “Esto se produce tras múltiples intentos de Joy Timeline HK Limited de eludir el proceso de revisión de anuncios de Meta y seguir publicando estos anuncios, tras ser eliminados repetidamente por infringir nuestras normas”, señala la compañía en un comunicado.
Una política firme contra la explotación sexual digital
Meta considera que esta acción legal “subraya la seriedad” con la que abordan este tipo de abusos y su “compromiso de hacer todo lo posible para proteger a su comunidad de usuarios”. La empresa advierte que seguirá tomando todas las medidas necesarias —incluidas acciones legales— contra quienes vulneren sus políticas. Desde hace más de un año, Meta ha reforzado sus normas contra las imágenes íntimas no consensuadas, ya sean reales o generadas por IA. Como parte de su estrategia, elimina anuncios, páginas y cuentas que promocionan estas herramientas, bloquea los enlaces a webs que las alojan y restringe búsquedas de términos como “desnudar”, “desvestir” o “eliminar ropa” en sus plataformas.
Nuevas técnicas para burlar la detección
Meta señala que los anunciantes de este tipo de apps están adoptando tácticas cada vez más sofisticadas: “Algunos usan imágenes inocuas en sus anuncios para evitar ser detectados por nuestra tecnología de detección de desnudos, mientras que otros crean rápidamente nuevos nombres de dominio para reemplazar los sitios web que bloqueamos”. En respuesta, la empresa ha desarrollado tecnología capaz de identificar estos contenidos incluso cuando no presentan imágenes explícitas, utilizando coincidencias visuales y lingüísticas. También ha trabajado con expertos externos para ampliar el listado de términos, frases y emojis que permiten detectar estas campañas encubiertas.
Colaboración con otras tecnológicas y redes
Para combatir el problema a mayor escala, Meta ha empezado a compartir información con otras compañías tecnológicas a través del programa Lantern de la Tech Coalition. Desde marzo, ha enviado más de 3.800 URLs con contenidos violatorios para que otras plataformas puedan tomar medidas. Estas acciones se suman a la estrategia general de Meta para combatir la explotación sexual digital, que también incluye el uso de herramientas como StopNCII.org y la colaboración con iniciativas como el Take It Down Act en EE.UU.
Presión política desde el Congreso
El caso ha llegado al Congreso de Estados Unidos. El senador demócrata Dick Durbin envió en febrero una carta al director ejecutivo de Meta, Mark Zuckerberg, instándole a actuar contra la publicidad de estas apps. Durbin citaba investigaciones del medio 404 Media y del experto Alexios Mantzarlis (Cornell Tech), que revelaron que más de 8.000 anuncios vinculados a CrushAI se publicaron en Meta durante las dos primeras semanas de este año, según datos de CNBC. La carta denunciaba que los anuncios vulneraban las políticas de Meta sobre “desnudez adulta, actividad sexual y ciertas formas de acoso e intimidación”.
Una campaña que también busca limpiar su imagen
Estas acciones han sido comunicadas por Meta a través de su blog corporativo, en lo que algunos interpretan como un intento de recuperar la confianza pública. La empresa ha estado en el centro de la polémica por el uso del contenido de los usuarios para entrenar modelos de IA, generando preocupación sobre la privacidad y el consentimiento en sus redes sociales. Así, esta ofensiva contra las apps nudify no solo pretende proteger a sus usuarios de abusos, sino también reforzar su imagen como defensora de la privacidad digital, en un contexto donde su historial ha sido cuestionado repetidamente.
La imagen de representación de esa noticia ha sido generada con DeepAI.
