En un contexto marcado por el auge de los deepfakes y la generación sintética de rostros y cuerpos, StopNCII.org se ha consolidado como una herramienta esencial para luchar contra la difusión no consentida de imágenes íntimas. Gracias a una tecnología de hashing en el dispositivo, protege la privacidad de miles de personas sin que su contenido llegue a subirse a internet. En colaboración con gigantes tecnológicos y organizaciones sociales, StopNCII.org representa una respuesta ética y eficaz a los peligros de la inteligencia artificial cuando esta se utiliza con fines abusivos.

Meta ha entablado una demanda contra Joy Timeline HK Limited, creadora de CrushAI, por anunciar sin consentimiento aplicaciones que “desnudan” a personas mediante inteligencia artificial. La compañía refuerza su ofensiva contra estas herramientas ilegales, eliminando anuncios, bloqueando webs, desarrollando nueva tecnología de detección y compartiendo datos con otras plataformas. La polémica ha llegado al Congreso de EE.UU., donde se ha exigido a Meta mayor control frente a contenidos que violan la privacidad y fomentan el acoso.