La inteligencia artificial (IA) ha demostrado en los últimos años un enorme potencial en campos como la medicina, la investigación científica o la predicción de pandemias. Sin embargo, también se la ha vinculado con consecuencias trágicas, desde suicidios adolescentes tras interacciones con chatbots hasta campañas masivas de desinformación y ataques informáticos. Frente a este escenario, más de 200 figuras de prestigio mundial, incluidos 10 premios Nobel y varios ganadores del Premio Turing, han firmado una petición presentada en la 80ª Asamblea General de Naciones Unidas para establecer límites internacionales claros y verificables que regulen el desarrollo de la IA.
Riesgos globales y necesidad de acción
El manifiesto sostiene que la trayectoria actual de la IA “presenta peligros sin precedentes” capaces de “superar con creces las capacidades humanas y agravar riesgos como pandemias provocadas, la manipulación a gran escala de personas, incluidos los niños, el desempleo masivo o las violaciones sistemáticas de los derechos humanos”. La advertencia llega en un momento en que las grandes tecnológicas promueven agentes autónomos que actúan en nombre de los usuarios, un cambio que, según los firmantes, podría volver imposible mantener un control humano efectivo en los próximos años.
El objetivo no es reaccionar después de que ocurra un incidente importante y castigar la violación después del hecho, sino prevenir riesgos potencialmente irreversibles a gran escala antes de que sucedan.
Charbel Segerie, director del Centro Francés para la Seguridad de la IA (CeSIA)
Voces de la comunidad científica
Entre los impulsores de esta iniciativa destacan figuras clave en la historia de la IA como Yoshua Bengio, uno de los padres de esta tecnología y premio Príncipe de Asturias de Investigación en 2022: “La carrera actual hacia sistemas de IA cada vez más capaces y autónomos plantea grandes riesgos para nuestras sociedades y necesitamos urgentemente la colaboración internacional para abordarlos. Establecer líneas rojas es un paso crucial”.
También Stuart Russell, profesor de la Universidad de California en Berkeley, advirtió: “El desarrollo de una IA altamente capaz podría ser el evento más relevante en la historia de la humanidad. Es imperativo que las potencias mundiales actúen con decisión para garantizar que no sea el último”. En la misma línea, Ahmet Üzümcü, Nobel de la Paz en 2013 y exdirector de la OPAQ, subrayó: “Es de nuestro interés común vital evitar que la IA inflija daños graves y potencialmente irreversibles a la humanidad y debemos actuar en consecuencia”.
Casos que evidencian la urgencia
Los riesgos de no establecer límites ya han tenido consecuencias humanas. En abril, Adam Raine, un adolescente de 16 años, se suicidó tras interactuar con ChatGPT. Según su padre, “lo que comenzó como un ayudante de tareas se convirtió gradualmente en un confidente y luego en un preparador para el suicidio”. Un caso similar ocurrió con Sewell García, de 14 años, cuya madre denunció que un avatar creado por una compañía de IA le manipuló emocional y sexualmente hasta su muerte.
Estos episodios han llevado a organizaciones como Fairplay, dedicada a la seguridad en línea de los menores, a denunciar que “no deberíamos permitir que las empresas, solo porque tienen enormes recursos, realicen experimentos incontrolados en niños cuando las implicaciones para su desarrollo pueden ser tan vastas”.
Ejemplos de “líneas rojas” propuestas
Aunque la iniciativa no concreta prohibiciones específicas, los expertos plantean límites posibles, como:
- Prohibir el uso de IA en decisiones nucleares o militares sin supervisión humana.
- Impedir el despliegue de armas autónomas letales.
- Bloquear sistemas de vigilancia masiva y puntuación social.
- Restringir el uso de IA que suplante a humanos sin advertencia previa.
- Evitar que sistemas capaces de autorreplicarse evolucionen sin control humano.
Algunas de estas propuestas ya cuentan con precedentes, como la recomendación de la UNESCO contra la vigilancia masiva o el reciente AI Act europeo, que clasifica ciertos usos como de “riesgo inaceptable”.
Un acuerdo internacional antes de 2026
El documento reclama que los gobiernos coordinen un tratado internacional que incluya salvaguardas claras, mecanismos de cumplimiento y rendición de cuentas para todas las empresas de IA avanzada. El plazo marcado por los firmantes es finales de 2026, con la intención de que la regulación se adelante a desarrollos que podrían escapar al control humano.
Que todos los proveedores de IA avanzada rindan cuentas ante unos umbrales comunes.
Niki Iliadis, directora de gobernanza global en The Future Society
La petición está impulsada por el CeSIA (Centro Francés para la Seguridad de la IA), The Future Society y el Centro de Inteligencia Artificial Compatible con el Ser Humano de la Universidad de California en Berkeley, con el respaldo de más de 70 organizaciones internacionales.
Una llamada de urgencia
La comunidad internacional ya ha demostrado que es posible cooperar en materias críticas incluso en contextos de tensión geopolítica, como ocurrió con el Tratado de No Proliferación Nuclear (1970) o el Protocolo de Montreal (1987). Ahora, los expertos alertan de que el tiempo para actuar con la IA se agota.
“No se puede conducir un automóvil rápido sin frenos ni volante”, advirtió Russell. “Las regulaciones sirven como frenos y volante para asegurarse de que el automóvil permanezca en la pista y no mate a los pasajeros y al conductor”.
La fotografía de portada de esta noticia pertenece a Chris Yang y ha sido publicada en Unsplash
