1.293 empleados de empresas de IA de frontera han firmado una petición para que Estados Unidos apoye un esfuerzo internacional destinado a crear las herramientas técnicas y de gobernanza que permitan ralentizar deliberadamente el desarrollo de estos sistemas. La cifra aparece en la página de la iniciativa Pacing the Frontier a 30 de julio.
El texto no pide detener ahora la investigación ni exige que una empresa se frene por su cuenta. Propone que gobiernos, industria y sociedad dispongan de mecanismos para ganar tiempo si el avance de la IA automatizada supera la capacidad de entender y controlar los sistemas resultantes.
Una petición personal, no una posición corporativa
Entre los firmantes visibles figuran Dario Amodei, consejero delegado de Anthropic; Jakub Pachocki, científico jefe de OpenAI; Jared Kaplan, cofundador y responsable científico de Anthropic; Shane Legg, cofundador y científico jefe de AGI de Google DeepMind, y Shengjia Zhao, científico jefe de Meta AI. La web aclara que los comentarios se realizan a título personal y no representan necesariamente la posición de sus empresas.
«Firmé porque esta declaración ayuda a establecer una comprensión compartida de que puede hacer falta coordinar mecanismos a medida que la investigación automatizada acelera el progreso».
John Schulman, científico jefe de Thinking Machines, en Pacing the Frontier, traducción propia.
«La IA progresa a una velocidad para la que quizá nuestra sociedad no esté preparada».
Shengjia Zhao, científico jefe de Meta AI, en Pacing the Frontier, traducción propia.
«Pedimos al Gobierno de Estados Unidos que apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para acompasar deliberadamente la frontera del desarrollo automatizado de IA».
Pacing the Frontier, traducción propia.
La petición parte de una premisa sencilla: ninguna empresa o país tiene incentivos para reducir unilateralmente la velocidad de una carrera competitiva. Por eso reclama preparar instrumentos que permitan coordinar una pausa o una ralentización si aparecen riesgos que requieran más tiempo para reforzar la seguridad y la supervisión.
El debate ya había llegado al Congreso
La iniciativa de los empleados se suma a una discusión que ya tiene recorrido legislativo en Estados Unidos. El AI Kill Switch Act, presentado por dos congresistas el 24 de julio, plantea exigir a los desarrolladores de los modelos más potentes que mantengan una capacidad técnica para detenerlos ante un riesgo catastrófico, según el comunicado de sus impulsores.
La diferencia está en el alcance. El proyecto de ley se centra en la capacidad de desconectar sistemas ya desplegados. Pacing the Frontier plantea preparar herramientas que permitan gobernar el ritmo del desarrollo antes de que sea necesario llegar a ese punto.
La seguridad y la apertura no son el mismo debate
Esta petición aparece pocos días después de que empresas como Microsoft, Meta, Nvidia, IBM, Hugging Face, Mistral y Palantir defendieran evitar restricciones prematuras a los modelos de pesos abiertos. Como explicamos en la fractura entre IA cerrada y abierta, esa discusión gira en torno a quién puede descargar, adaptar y ejecutar modelos avanzados.
La nueva petición habla de otra cuestión: qué hacer si los sistemas capaces de automatizar investigación en IA avanzan más rápido de lo que pueden evaluarse sus riesgos. Ambas conversaciones se cruzan en la política tecnológica de Estados Unidos, pero no ofrecen la misma respuesta ni persiguen el mismo objetivo.
El debate también ayuda a leer el movimiento geopolítico que analizamos en la creación de WAICO en Shanghái. Mientras China defiende una agenda de cooperación y apertura, parte de los investigadores que trabajan en los laboratorios occidentales reclama preparar mecanismos colectivos para frenar la carrera cuando sea necesario.
La fotografía de representación de este artículo pertenece a Flipsnack y ha sido publicada en Unsplash
