El martes, en la primera edición del Diálogo Global de las Naciones Unidas sobre Gobernanza de la Inteligencia Artificial, España presentó en Ginebra la Coalición Internacional para los Derechos y la Protección de la Infancia en la Era de la Inteligencia Artificial, un grupo de trabajo con el que quiere marcar reglas sobre cómo trata la tecnología a niños y adolescentes.
La anunció el ministro español para la Transformación Digital y de la Función Pública, Óscar López, que justificó la prisa apelando a un error todavía reciente.
«En el pasado se cometieron errores, por ejemplo, con las redes sociales. No podemos llegar tarde con la IA».
Óscar López, ministro español para la Transformación Digital y de la Función Pública
Qué es y quién la firma
La coalición se ha constituido como un grupo de trabajo dentro del Diálogo Global de la ONU sobre gobernanza de la IA y toma como referencia la Convención sobre los Derechos del Niño. La impulsan España, Francia, Kenia y la Unión Europea, y en total han firmado diecisiete países. A ese núcleo se han sumado, según el Gobierno español, Austria, Brasil, Bulgaria, Canadá, Corea del Sur, Chequia, El Salvador, Estonia, Indonesia, Italia, Japón, Luxemburgo, Marruecos y Países Bajos. Detrás están también UNICEF, UNESCO y la Comisión Europea, con apoyos como la Unión Internacional de Telecomunicaciones.
La gran ausencia
Y ahí está el matiz incómodo. En esa nómina no aparecen ni Estados Unidos ni China, es decir, los dos países donde tienen su sede las empresas que fabrican la mayoría de los modelos que los menores acaban usando. Una alianza para poner orden en la IA sin las dos potencias que la dominan arranca coja, por mucho respaldo que le dé la ONU.
Los riesgos que señala
El diagnóstico no es abstracto. López recordó que el primer informe del Panel Científico Internacional sobre la IA ya documenta la exposición de los menores a algoritmos manipuladores, bulos, pornografía y ciberacoso. A partir de ahí, la coalición dibuja varios frentes.
El más delicado son los deepfakes, imágenes y vídeos falsos que la IA genera con enorme realismo y que se usan cada vez más para fabricar material de abuso sexual infantil o desnudos no consentidos. No es un temor teórico: la Unión Europea ya ha acordado prohibir los modelos capaces de crear ese tipo de contenido y en Estados Unidos una menor denunció a la aplicación ClothOff por difundir imágenes suyas manipuladas.
Inquietan también los sistemas de recomendación que anteponen retener la atención al bienestar del usuario, las interfaces pensadas para generar dependencia y los llamados amigos digitales, esos personajes de IA con los que muchos adolescentes conversan a diario. No es un temor abstracto: ya ha habido menores que desarrollaron una relación dañina con estos personajes, como el caso que llevó a Character.AI a reforzar sus controles tras la muerte de un adolescente.
La lección de las redes
El argumento de López enlaza con la posición que España defiende de puertas adentro. El Gobierno aprobó el proyecto de ley de IA que, entre otras medidas, veta los deepfakes sin etiquetar y prevé sanciones millonarias. La coalición traslada esa idea al plano internacional: la protección de la infancia debería venir incorporada al diseño del software desde el principio, y no aplicarse como un parche cuando el daño ya está hecho.
Por ahora, lo que hay sobre la mesa es una declaración de intenciones firmada por diecisiete países y avalada por las grandes agencias de la ONU, sin capacidad para obligar a nadie y sin las dos superpotencias de la IA dentro. Es un punto de partida razonable, no el tratado vinculante que el problema reclamaría. La duda, después de lo que se aprendió tarde con las redes sociales, es si esta vez el acuerdo llegará antes que el perjuicio.
