Tras anunciar hace unos días un sistema para predecir la edad de sus usuarios, OpenAI ha detallado una serie de nuevas medidas para prevenir el uso de su tecnología en delitos de explotación infantil. La compañía ha actualizado sus políticas, ha mejorado los sistemas de detección de contenido inapropiado y colabora estrechamente con organizaciones como NCMEC y Thorn. Todo esto con un objetivo claro: impedir que sus modelos generen, analicen o describan material de abuso sexual infantil. Las cuentas que violen estas normas serán bloqueadas y reportadas automáticamente.

Una denuncia en EE.UU. señala que Meta habría pirateado y distribuido miles de vídeos para adultos como parte de una estrategia para entrenar su inteligencia artificial. Según los demandantes, la empresa utilizó estas películas para acelerar sus descargas en redes BitTorrent y alimentar sus modelos con imágenes humanas difíciles de obtener en otro tipo de contenidos. La demanda incluye pruebas técnicas que apuntan a direcciones IP vinculadas con Meta. La compañía niega los hechos. Si se confirma, el caso abriría un importante debate sobre la ética del entrenamiento de IA con material íntimo.