La semana pasada, OpenAI presentó un sistema para identificar usuarios menores de edad y adaptar su experiencia en ChatGPT. Ahora, la empresa va un paso más allá en su estrategia de protección infantil al reforzar su compromiso contra la explotación y el abuso sexual infantil en línea. En una nueva publicación oficial, OpenAI detalla una batería de medidas técnicas, políticas y legales diseñadas para prevenir cualquier uso indebido de su tecnología con fines delictivos.
Un uso prohibido en todas sus formas
OpenAI recuerda que sus políticas de uso prohíben expresamente la generación, subida o análisis de contenido relacionado con abuso infantil, sea este generado por IA o no. La compañía veta actividades como el grooming, el roleplay sexual con menores, la exposición a contenido gráfico inapropiado o la promoción de retos peligrosos.
Estas restricciones también se extienden a los desarrolladores que usan la tecnología de OpenAI en sus propias aplicaciones. Si un desarrollador no actúa ante conductas reiteradas de sus usuarios, su acceso a la API será cancelado.
Monitoreo activo y respuesta automática
Para garantizar el cumplimiento de estas políticas, OpenAI ha implementado tecnologías avanzadas de detección y respuesta. Entre ellas, destaca el uso de su propio sistema de hash matching para identificar material previamente conocido como CSAM (siglas en inglés de “material de abuso sexual infantil”) y la integración de un clasificador desarrollado por la organización Thorn, especializada en la lucha contra la explotación infantil en entornos digitales.
Cuando un usuario intenta subir CSAM, o generar descripciones relacionadas, la cuenta es bloqueada de inmediato y se notifica al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). En caso de evidencias de abuso activo, OpenAI realiza investigaciones internas y prepara informes prioritarios para las autoridades.
Cómo intentan sortear las barreras
Pese a las medidas, la compañía ha detectado nuevos patrones de abuso. Algunos usuarios han intentado usar ChatGPT para describir imágenes ilegales subidas al sistema, o incluso construir narrativas ficticias de abuso infantil. Otros buscan inducir al modelo a participar en diálogos o historias que implican a menores en contextos sexuales. OpenAI considera estas prácticas como violaciones graves y ha ajustado sus modelos para detectar y bloquear esos intentos de manera preventiva.
Respuesta humana cuando la IA no basta
Aunque el sistema está diseñado para actuar automáticamente, OpenAI cuenta con un equipo humano especializado que revisa los casos que requieren análisis más complejos. Esta supervisión permite mejorar los algoritmos y afinar los criterios de detección. Además, los expertos en seguridad infantil dentro de la compañía ayudan a actualizar las protecciones conforme surgen nuevos riesgos.
Un reto legal que frena la investigación
Una de las dificultades a las que se enfrenta OpenAI es que la legislación estadounidense prohíbe el uso de CSAM, incluso con fines de prueba. Esto impide simular algunos casos para testar la robustez de los sistemas. Por ello, OpenAI ha expresado su apoyo a políticas públicas como la Child Sexual Abuse Material Prevention Act del estado de Nueva York, que busca facilitar la colaboración entre empresas tecnológicas, gobiernos y ONG para combatir el abuso infantil sin vulnerar la ley.
Una estrategia global y colaborativa
Todas estas iniciativas se enmarcan en el compromiso de OpenAI por desarrollar una inteligencia artificial segura, como ya quedó reflejado en su reciente sistema de predicción de edad o en la incorporación de controles parentales. Para la compañía, la protección de la infancia no es una función secundaria, sino una prioridad central en el diseño de sus productos y servicios.
El trabajo conjunto con entidades como NCMEC, Thorn, Common Sense Media o fiscales generales estatales es una muestra de que este esfuerzo no es aislado. OpenAI aspira a liderar un enfoque industrial coordinado que permita detectar, bloquear y denunciar cualquier forma de abuso sexual infantil mediado por inteligencia artificial.
La fotografía de portada de esta noticia pertenece a Vitaly Gariev y ha sido publicada en Unsplash
