Una respuesta urgente a una amenaza global
La difusión de contenido íntimo sin consentimiento (conocido como NCII por sus siglas en inglés: Non-Consensual Intimate Image) se ha convertido en una forma de violencia digital que afecta a miles de personas cada año. A esta amenaza se suma un fenómeno creciente: la creación y distribución de imágenes falsas generadas por inteligencia artificial, también conocidas como deepfakes.
Estas imágenes hiperrealistas, que pueden representar a una persona desnuda sin que haya posado jamás, suponen una forma avanzada de abuso digital. Para combatir esta problemática, la organización sin ánimo de lucro SWGfL desarrolló StopNCII.org, una plataforma internacional que ofrece protección sin comprometer la privacidad de las víctimas.
Empoderar a las personas para que tengan control sobre su propia presencia digital es esencial en el mundo digital actual.
Keily Blair, directora ejecutiva de OnlyFans
Cómo funciona StopNCII.org
A diferencia de otras soluciones, StopNCII.org no requiere subir imágenes a la red. Utiliza un sistema de hashing en el dispositivo, que convierte una imagen íntima en una cadena de números y letras imposible de revertir, conocida como hash. Esta huella digital se compara con el contenido que circula por las plataformas asociadas, y si se detecta una coincidencia, la imagen es bloqueada o eliminada de inmediato.
Esta tecnología no solo sirve para prevenir la difusión de imágenes reales, sino también para detectar deepfakes que utilicen imágenes o vídeos reales como base. Si una imagen sintética coincide con un hash creado por una víctima, puede ser identificada y frenada antes de su propagación.
En sus tres años de funcionamiento, StopNCII.org ha alcanzado ya un hito significativo: más de un millón de imágenes íntimas no consentidas han sido protegidas mediante su sistema de huellas digitales, lo que demuestra tanto su eficacia como la magnitud del problema global al que se enfrenta.
El auge de los deepfakes y las apps nudify
El desarrollo de modelos de inteligencia artificial capaces de generar fotografías falsas hiperrealistas plantea nuevos dilemas éticos. Aunque plataformas como Midjourney o DALL·E cuentan con sistemas que bloquean la generación de contenido sexual explícito, existen versiones no moderadas y modelos abiertos de Stable Diffusion que permiten generar imágenes manipuladas con gran realismo, muchas veces con fines abusivos.
Este fenómeno ha dado lugar a la proliferación de apps nudify, aplicaciones que permiten generar desnudos falsos de personas reales. Plataformas como Facebook, Instagram y WhatsApp han sido utilizadas para publicitar estas herramientas, motivo por el cual Meta ha emprendido acciones legales contra sus promotores. En concreto, ha demandado a la empresa detrás de CrushAI por vulnerar sus normas de contenido y eludir sus sistemas de detección de anuncios prohibidos.
Meta se enorgullece de ver el progreso de esta solución tecnológica y espera que aún más empresas se unan a la iniciativa.
Cindy Southworth, Jefa de Seguridad de la Mujer en Meta
Una red global de aliados
La herramienta trabaja en colaboración con algunas de las plataformas más influyentes del mundo digital, incluyendo Meta (Facebook, Instagram, Threads), TikTok, OnlyFans, Reddit, Microsoft Bing, Snap Inc, Pornhub, Bitly y Resolver, entre otros. Estas alianzas permiten que los hashes generados se distribuyan entre plataformas que han integrado esta tecnología en sus sistemas de moderación de contenido.
Uno de los principios más valorados de StopNCII.org es su enfoque en la privacidad. Los archivos originales nunca se almacenan ni se comparten, lo que evita filtraciones o accesos no autorizados. Solo se utiliza una huella digital cifrada e irreversible que no puede ser reconstruida para obtener la imagen original.
Esta metodología representa una de las primeras aplicaciones éticas y prácticas de la tecnología de reconocimiento para fines de protección, en lugar de vigilancia.
Una solución frente al lado oscuro de la IA
El auge de los modelos generativos ha traído consigo una revolución creativa, pero también nuevas formas de violencia basada en género y manipulación digital. StopNCII.org es una de las pocas herramientas que aborda de forma concreta el daño causado por la difusión de contenido íntimo generado o manipulado con inteligencia artificial.
Tal y como señala Keily Blair, directora ejecutiva de OnlyFans: “La tecnología de StopNCII y su colaboración entre plataformas son vitales para permitir que los adultos compartan imágenes íntimas de forma consensuada.”
Compartir imágenes íntimas no consensuadas es inaceptable.
Jacqueline Beauchere, Directora Global de Seguridad de Plataformas, Snap Inc.
Empoderar a las víctimas, frenar el abuso
En un entorno donde la IA puede ser usada para erosionar la verdad visual, StopNCII.org pone la tecnología al servicio de la dignidad. Su modelo demuestra que es posible desarrollar herramientas inteligentes, respetuosas y efectivas para proteger los derechos fundamentales en el entorno digital.
Con cada nueva alianza, con cada imagen bloqueada, StopNCII.org avanza hacia su objetivo: un internet más seguro y justo para todas las personas.
