Tras anunciar hace unos días un sistema para predecir la edad de sus usuarios, OpenAI ha detallado una serie de nuevas medidas para prevenir el uso de su tecnología en delitos de explotación infantil. La compañía ha actualizado sus políticas, ha mejorado los sistemas de detección de contenido inapropiado y colabora estrechamente con organizaciones como NCMEC y Thorn. Todo esto con un objetivo claro: impedir que sus modelos generen, analicen o describan material de abuso sexual infantil. Las cuentas que violen estas normas serán bloqueadas y reportadas automáticamente.

Meta ha entablado una demanda contra Joy Timeline HK Limited, creadora de CrushAI, por anunciar sin consentimiento aplicaciones que “desnudan” a personas mediante inteligencia artificial. La compañía refuerza su ofensiva contra estas herramientas ilegales, eliminando anuncios, bloqueando webs, desarrollando nueva tecnología de detección y compartiendo datos con otras plataformas. La polémica ha llegado al Congreso de EE.UU., donde se ha exigido a Meta mayor control frente a contenidos que violan la privacidad y fomentan el acoso.