Tras anunciar hace unos días un sistema para predecir la edad de sus usuarios, OpenAI ha detallado una serie de nuevas medidas para prevenir el uso de su tecnología en delitos de explotación infantil. La compañía ha actualizado sus políticas, ha mejorado los sistemas de detección de contenido inapropiado y colabora estrechamente con organizaciones como NCMEC y Thorn. Todo esto con un objetivo claro: impedir que sus modelos generen, analicen o describan material de abuso sexual infantil. Las cuentas que violen estas normas serán bloqueadas y reportadas automáticamente.

OpenAI está desarrollando un sistema de predicción de edad que permitirá identificar si los usuarios de ChatGPT son menores de 18 años. El objetivo es aplicar políticas específicas para adolescentes, como el bloqueo de contenidos sexuales explícitos y la posibilidad de activar protocolos de emergencia en casos de angustia grave. La medida se enmarca en una serie de mejoras en seguridad, que incluyen nuevos controles parentales y recordatorios durante sesiones largas, con el objetivo de hacer que la IA sea más segura para los jóvenes.