OpenAI está desarrollando un sistema de predicción de edad que permitirá identificar si los usuarios de ChatGPT son menores de 18 años. El objetivo es aplicar políticas específicas para adolescentes, como el bloqueo de contenidos sexuales explícitos y la posibilidad de activar protocolos de emergencia en casos de angustia grave. La medida se enmarca en una serie de mejoras en seguridad, que incluyen nuevos controles parentales y recordatorios durante sesiones largas, con el objetivo de hacer que la IA sea más segura para los jóvenes.

HMD Global ha presentado el HMD Fuse, un smartphone diseñado específicamente para proteger a los menores. El dispositivo integra HarmBlock AI, una inteligencia artificial que impide mostrar, grabar o almacenar imágenes de desnudos. Funciona localmente y no requiere conexión a internet, lo que lo hace imposible de desactivar por parte del usuario. Además, incluye controles parentales avanzados a través de la app HarmBlock+, restringe el uso de aplicaciones y permite seguimiento de ubicación. Por ahora, el terminal está disponible exclusivamente en Reino Unido en colaboración con Vodafone.

Una denuncia en EE.UU. señala que Meta habría pirateado y distribuido miles de vídeos para adultos como parte de una estrategia para entrenar su inteligencia artificial. Según los demandantes, la empresa utilizó estas películas para acelerar sus descargas en redes BitTorrent y alimentar sus modelos con imágenes humanas difíciles de obtener en otro tipo de contenidos. La demanda incluye pruebas técnicas que apuntan a direcciones IP vinculadas con Meta. La compañía niega los hechos. Si se confirma, el caso abriría un importante debate sobre la ética del entrenamiento de IA con material íntimo.