China ha publicado la versión 2.0 de su “Marco de Gobernanza de Seguridad en Inteligencia Artificial”, un documento técnico y político que redefine cómo el país evalúa y mitiga los riesgos asociados a la IA. Elaborado bajo la supervisión de la Administración del Ciberespacio de China (CAC), el texto refleja una creciente preocupación por el mal uso de los modelos de código abierto, la pérdida de control humano sobre los sistemas avanzados y las implicaciones sociales y de seguridad que conlleva la expansión de esta tecnología.
El documento, presentado en septiembre de 2025 durante la Semana Nacional de la Ciberseguridad de China, constituye una evolución profunda respecto a la primera versión publicada un año antes. Aunque no tiene carácter regulatorio, ofrece una hoja de ruta para las futuras normas técnicas y regulaciones de IA, tanto en China como a nivel internacional.
Un documento estratégico guiado por el CAC
El “Marco de Gobernanza de Seguridad en IA 2.0” ha sido elaborado por el Comité Técnico de Normalización de la Seguridad de la Información (TC260) y el Centro Nacional de Respuesta a Emergencias Informáticas (CNCERT-CC), ambos bajo la órbita de la CAC. En su desarrollo participaron universidades, laboratorios de investigación y grandes tecnológicas chinas como Alibaba y Huawei, en un esfuerzo conjunto por establecer estándares comunes de seguridad y gobernanza.
Su objetivo es claro: equilibrar la innovación tecnológica con la seguridad nacional y social, definiendo una taxonomía de riesgos que incluye desde los efectos económicos de la automatización hasta las amenazas catastróficas derivadas del uso de IA en armas de destrucción masiva.
De los modelos abiertos al control humano: los nuevos focos de riesgo
El Marco 2.0 introduce novedades clave respecto a la versión anterior. Una de las más relevantes es su atención a los riesgos derivados del auge de los modelos open source, es decir, aquellos con pesos y parámetros accesibles públicamente. Según el documento, esta apertura puede “facilitar que actores maliciosos entrenen modelos con fines delictivos” o que los errores en modelos base se propaguen a gran escala al ser reutilizados por desarrolladores.
El texto reconoce por primera vez que los modelos abiertos suponen una vulnerabilidad sistémica y propone reforzar los sistemas de evaluación de seguridad para detectar la propagación de fallos.
Otro punto destacado es la incorporación de un análisis sobre el impacto laboral y social de la IA. El marco advierte que “el valor del trabajo como factor de producción se reduce, provocando una fuerte caída de la demanda de empleo tradicional” y que la dependencia excesiva de herramientas de IA puede erosionar la creatividad y la capacidad de investigación independientes.
Por último, el documento amplía su mirada hacia los riesgos catastróficos. Entre ellos, el posible “uso indebido de conocimientos nucleares, biológicos o químicos” adquiridos por sistemas de IA durante su entrenamiento, así como la pérdida de control humano sobre sistemas avanzados. Para ello, propone medidas técnicas como “mecanismos de apagado de emergencia o control con un solo clic” que garanticen la supervisión humana en todas las fases críticas.
Principios éticos y evaluación técnica
El marco incluye un nuevo anexo sobre “Principios Fundamentales para una IA Fiable”, en el que el control humano y la transparencia ocupan un lugar central. El documento aboga por establecer sistemas de evaluación de seguridad de la IA y crear un ecosistema de medición técnica que permita detectar vulnerabilidades antes de que se traduzcan en riesgos reales.
Aunque la medición de seguridad sigue siendo un campo inmaduro, el texto subraya que su desarrollo será esencial para “avanzar en la seguridad de frontera sin recurrir a regulaciones excesivamente restrictivas”.
Hacia estándares técnicos y regulaciones sectoriales
El Marco 2.0 introduce además un sistema de categorización y gradación de riesgos, basado en tres factores: el nivel de inteligencia, la naturaleza de la aplicación y su escala. Este sistema servirá como base para que los reguladores de cada sector definan sus propias normas específicas.
Apenas diez días después de su publicación, el TC260 abrió una convocatoria pública para que empresas y centros de investigación participen en la redacción del estándar formal que concretará esta clasificación. Es un paso que anticipa la traducción del marco en normas técnicas obligatorias, un proceso que China ya ha iniciado con otros documentos similares.
Equilibrio entre desarrollo e inseguridad: la visión china de la IA
El lanzamiento del Marco 2.0 se produce en paralelo al Plan IA+ del Partido Comunista Chino, que busca integrar la inteligencia artificial en todos los ámbitos, desde la industria hasta la educación y la administración pública, para impulsar el crecimiento económico.
Sin embargo, el texto refleja también las preocupaciones del Gobierno sobre la pérdida de control, los efectos sociales y los riesgos existenciales de la tecnología. “Debe establecerse un sistema de control humano en las etapas críticas de los sistemas de IA para garantizar que las decisiones finales sigan en manos humanas”, señala el documento.
China, al igual que otros países, intenta encontrar un equilibrio entre innovación y seguridad, apostando por un sistema flexible de estándares técnicos y evaluaciones dinámicas que reduzcan riesgos sin frenar el desarrollo.
Un marco con impacto global
Aunque su enfoque principal es doméstico, el Marco 2.0 también tiene una dimensión internacional. Fue publicado con traducción oficial al inglés y se presenta como parte del compromiso chino con la Iniciativa Global para la Gobernanza de la IA, buscando crear consenso y cooperación entre gobiernos.
Expertos internacionales ven en el documento un anticipo de las regulaciones futuras que China podría implementar, con repercusiones en la forma en que el resto del mundo desarrolla y supervisa la inteligencia artificial.
