Tras anunciar hace unos días un sistema para predecir la edad de sus usuarios, OpenAI ha detallado una serie de nuevas medidas para prevenir el uso de su tecnología en delitos de explotación infantil. La compañía ha actualizado sus políticas, ha mejorado los sistemas de detección de contenido inapropiado y colabora estrechamente con organizaciones como NCMEC y Thorn. Todo esto con un objetivo claro: impedir que sus modelos generen, analicen o describan material de abuso sexual infantil. Las cuentas que violen estas normas serán bloqueadas y reportadas automáticamente.

Media Matters denuncia que en TikTok circulan masivamente vídeos racistas creados con la herramienta de IA Veo 3 de Google. Estos contenidos, que violan las normas de la plataforma, muestran imágenes ofensivas hacia personas negras, inmigrantes, asiáticos y judíos, y han alcanzado cifras millonarias de visualizaciones. TikTok asegura haber eliminado algunas cuentas, pero el problema persiste.