El Convenio Marco sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho del Consejo de Europa es el primer tratado internacional jurídicamente vinculante diseñado para garantizar el respeto de los derechos humanos, el Estado de derecho y las normas democráticas en el uso de sistemas de inteligencia artificial (IA). Este tratado, que también está abierto a países no europeos, establece un marco legal que abarca todo el ciclo de vida de los sistemas de IA y aborda los riesgos que pueden surgir, al tiempo que promueve la innovación responsable.
El convenio marco se abrirá a la firma el 5 de septiembre en Vilna (Lituania), coincidiendo con una conferencia de ministros de Justicia.
La convención adopta un enfoque basado en el riesgo para el diseño, desarrollo, uso y desmantelamiento de sistemas de IA. Esto implica considerar cuidadosamente cualquier posible consecuencia negativa del uso de sistemas de IA. La Secretaria General del Consejo de Europa, Marija Pejčinović, destacó que este tratado es una respuesta a la necesidad de un estándar legal internacional respaldado por estados de diferentes continentes. El objetivo es aprovechar los beneficios de la IA mientras se mitigan los riesgos, garantizando un uso responsable que respete los derechos humanos, el Estado de derecho y la democracia.
Es el primer tratado mundial de este tipo que garantizará que la IA respete los derechos de las personas.
Marija Pejčinović
El convenio es el resultado de dos años de trabajo del Comité sobre Inteligencia Artificial (CAI), un órgano intergubernamental. El CAI reunió a los 46 Estados miembros del Consejo de Europa, la Unión Europea y 11 Estados no miembros (Argentina, Australia, Canadá, Costa Rica, Estados Unidos, Israel, Japón, México, Perú, la Santa Sede y Uruguay), así como a representantes del sector privado, la sociedad civil y el mundo académico, que participaron como observadores
El tratado cubre tanto el uso de sistemas de IA en el sector público como en el sector privado. Las partes pueden cumplir con sus principios y obligaciones de dos maneras: estar directamente obligadas por las disposiciones del convenio o tomar otras medidas para cumplir con sus obligaciones internacionales en materia de derechos humanos, democracia y Estado de derecho. La convención también establece requisitos de transparencia y supervisión adaptados a contextos y riesgos específicos, incluida la identificación de contenido generado por sistemas de IA. Las partes deben adoptar medidas para evaluar, prevenir y mitigar posibles riesgos, considerando la necesidad de moratorias o prohibiciones cuando los riesgos sean incompatibles con los estándares de derechos humanos.
Puedes ampliar información en la nota de prensa oficial publicada por el Consejo de Europa: El Consejo de Europa adopta el primer tratado internacional sobre inteligencia artificial.
