Demis Hassabis, premio Nobel y consejero delegado de Google DeepMind, publicó ayer un manifiesto personal en el que sostiene que la inteligencia artificial general (AGI) está «probablemente a solo unos pocos años» y que estamos «en las estribaciones de la singularidad». Pero lo noticioso no es la profecía, que ya hemos oído otras veces, sino lo que pide a continuación: un organismo de estándares liderado por Estados Unidos que examine los modelos de frontera antes de que salgan al mercado.
Y ahí está lo interesante. Quien reclama un árbitro es uno de los que van en cabeza de la carrera, y el árbitro que propone lo pagaría, sobre todo, la propia industria.
Conviene saber quién firma esto. Hassabis fue niño prodigio del ajedrez, alcanzó el nivel de maestro a los 13 años y a los 17 codiseñó Theme Park, un clásico de los videojuegos, antes de doctorarse en neurociencia cognitiva. En 2010 cofundó DeepMind, que Google acabaría comprando, y de ahí salieron AlphaGo, el programa que derrotó al campeón mundial de Go Lee Sedol, y AlphaFold, el sistema que predice la estructura de las proteínas y que le valió el Premio Nobel de Química en 2024, compartido con John Jumper. Ese mismo año fue nombrado caballero. Hoy dirige Google DeepMind y la farmacéutica Isomorphic Labs. Es decir: no habla desde la barrera, sino desde el centro exacto de la carrera que describe.
«Hemos encontrado la forma de hacer pensar a la arena»
El texto arranca en registro épico. Hassabis, que lleva toda su vida trabajando en la AGI, la sitúa fuera de la escala de cualquier avance anterior.
«La AGI no puede compararse con los avances tecnológicos habituales, ni siquiera con otros tan trascendentales como internet o el móvil: se parece mucho más al descubrimiento de la electricidad o del fuego».
Demis Hassabis
De ese asombro sale su frase más llamativa.
«Si te paras a pensarlo, esencialmente hemos encontrado la forma de hacer pensar a la arena. Es milagroso».
Demis Hassabis
Y de ahí, la escala del impacto que promete: aceleración en el descubrimiento de fármacos, nuevas energías limpias, materiales avanzados y hasta un horizonte en el que los recursos dejen de limitar el progreso humano.
«La magnitud del impacto de esta tecnología no tendrá precedentes: quizá diez veces la de la Revolución Industrial, a diez veces la velocidad».
Demis Hassabis
La admisión más incómoda
Lo que salva al texto de ser solo folleto es que no esconde el problema de fondo, y lo hace con una franqueza poco habitual en alguien en su posición.
«En este momento estamos atrapados en una carrera comercial y geopolítica extremadamente intensa y con muchas capas. Aunque estas dinámicas competitivas alimentan el progreso rápido y aceleran las increíbles ventajas, los avances en la frontera están superando nuestra comprensión de la tecnología. Nadie en el mundo sabe con seguridad qué va a pasar a partir de aquí, y ni siquiera los expertos se ponen de acuerdo».
Demis Hassabis
Y va un paso más allá: admite que ni el sector ni la sociedad se están dando el margen que hace falta.
«Confío en que mitigar los riesgos técnicos de la IA es un reto que podemos abordar colectivamente, pero solo si nos damos el tiempo y el espacio para acertar en este paso crucial. Ahora mismo, como campo y como sociedad, no lo estamos haciendo».
Demis Hassabis
A partir de ahí enumera los riesgos sin adornos: la ciberseguridad ya está dando problemas, algo que en Estados Unidos se ha visto de cerca con modelos como Mythos de Anthropic, y avisa de que las amenazas nucleares y biológicas «pueden emerger pronto». Añade que harán falta salvaguardas robustas para mantener el control de sistemas cada vez más agénticos y capaces de automejorarse de forma recursiva.
El árbitro que propone, y quién lo paga
La propuesta es concreta. Un organismo de estándares al estilo de la FINRA, la entidad que autorregula el sector financiero estadounidense bajo supervisión federal, con un consejo de expertos técnicos independientes y representantes del código abierto. Los laboratorios cuyos modelos superen ciertos umbrales serían designados «Frontier Labs», un sello que, dice, daría prestigio. Al principio entregarían sus modelos de forma voluntaria, hasta 30 días antes del lanzamiento; después, pasar el examen sería obligatorio para desplegarlos en el mercado estadounidense. Las pruebas medirían capacidades en ciberseguridad, amenazas biológicas, intentos de saltarse las barreras de seguridad y señales de engaño, con marcas de agua en las imágenes generadas y salidas legibles para entender el razonamiento del modelo.
Hay una línea que casi nadie destacará y que es notable viniendo de un consejero delegado.
«Podría intensificarse si la gravedad de la situación lo exige, incluida la coordinación de una desaceleración del desarrollo entre los laboratorios de frontera si se considera necesario».
Demis Hassabis
Conviene fijarse en el diseño: es autorregulación. Un organismo financiado sobre todo por los laboratorios a los que vigila, voluntario en su primera fase y propuesto por el jefe de uno de ellos. Según TechCrunch, vendría a ordenar las revisiones improvisadas que el Gobierno estadounidense ya ha hecho con Mythos y con Sol, criticadas por su falta de criterio técnico y su opacidad, un terreno que en la práctica supone que Washington ya decide qué IA sale al mercado. Y llega con el viento de cara: el asesor de IA de la Casa Blanca, Sriram Krishnan, acaba de zanjar que no habrá «una FDA para la IA».
El choque con el código abierto
Hay un detalle con carga de profundidad, y lo escribe sin rodeos.
«El marco podría aplicarse a los modelos de clase frontera sin importar su país de origen ni si son abiertos o cerrados, pero cualquier modelo que no sea de frontera, digamos de startups o del ámbito académico, quedaría exento de este proceso».
Demis Hassabis
Dicho de otro modo: un organismo liderado por Estados Unidos poniendo condiciones a los modelos abiertos chinos, justo cuando Zhipu defiende exactamente lo contrario y Pekín estudia sus propios cerrojos.
«El futuro no está escrito»
El cierre baja el tono épico y acierta. Hassabis admite que las preguntas que vienen después (qué modelos económicos harán falta en un mundo sin escasez, qué valores, dónde quedan el sentido y el propósito, cómo puede cambiar la propia condición humana) no son cosa de ingenieros.
«Resolver estas cuestiones, obviamente, no puede ni debe dejarse solo en manos de los tecnólogos. Requiere que todas las partes de la sociedad se unan para ayudar a definir este nuevo capítulo».
Demis Hassabis
«El futuro no está escrito: debemos usar esta preciosa ventana antes de que llegue la AGI para dar forma a esta tecnología en beneficio de toda la humanidad».
Demis Hassabis
La ironía, difícil de esquivar, es que esa ventana la está cerrando, en buena parte, la carrera que él mismo corre.