El sueño de Silicon Valley por crear una superinteligencia artificial (AGI) capaz de superar a cualquier ser humano en capacidad cognitiva se ha topado con una fuerte oposición. La carta abierta, publicada por el Future of Life Institute, ha sido respaldada por científicos, activistas y empresarios de todo el mundo, que reclaman una pausa en el desarrollo de sistemas que puedan escapar al control humano.
Una llamada a la prudencia global
Entre los firmantes se encuentran figuras tan diversas como la expresidenta de Irlanda Mary Robinson, el exasesor de Donald Trump Steve Bannon o el empresario británico Richard Branson. Todos coinciden en pedir una moratoria internacional hasta que exista “un amplio consenso científico” que garantice el desarrollo de la superinteligencia “de forma segura y controlada”, así como una “fuerte aceptación pública” de su uso.
El texto advierte que, sin ese consenso, el avance desmedido de la inteligencia artificial podría generar consecuencias imprevisibles. Los firmantes recuerdan que esta tecnología no solo puede transformar el mercado laboral, sino también poner en riesgo la estabilidad social y la supervivencia de la especie humana.
Hinton y Bengio: los “padrinos” de la IA piden frenar
Geoffrey Hinton, uno de los padres del aprendizaje profundo, advierte en la carta: “Los sistemas de IA de vanguardia podrían superar a la mayoría de las personas en la mayoría de las tareas cognitivas en tan solo unos pocos años. Estos avances podrían desbloquear soluciones para importantes desafíos globales, pero también conllevan riesgos significativos”. El científico subraya la necesidad de diseñar sistemas “incapaces de dañar a las personas, ya sea por desalineación o uso malicioso”.
Por su parte, el investigador Stuart J. Russell, pionero de la IA, matiza que no se trata de una prohibición: “Es simplemente una propuesta para exigir medidas de seguridad adecuadas para una tecnología que, según sus desarrolladores, tiene una probabilidad significativa de causar la extinción humana. ¿Es eso demasiado pedir?”.
Una advertencia que ya se lanzó en 2023
El Future of Life Institute ya promovió en 2023 una carta similar pidiendo una pausa en el entrenamiento de modelos avanzados de IA. Entonces, la advertencia fue ignorada y las grandes tecnológicas continuaron con su carrera por alcanzar la llamada superinteligencia artificial. Dos años después, el contexto es aún más urgente: los modelos actuales ya demuestran capacidades que hace poco parecían inalcanzables.
Silicon Valley acelera la carrera por la superinteligencia
Mientras los expertos piden precaución, las grandes tecnológicas siguen compitiendo por alcanzar ese objetivo. Meta, la compañía de Mark Zuckerberg, ha creado un nuevo equipo de investigadores dedicado a desarrollar la superinteligencia, con inversiones que superan los 10.000 millones de euros y ofertas millonarias para fichar talento de la competencia.
Google y OpenAI tampoco se quedan atrás. En una reciente conferencia, Sam Altman, CEO de OpenAI, afirmó que “la humanidad está cerca de construir una superinteligencia digital”. Aunque no figura entre los firmantes, Altman ha reconocido que este avance “es probablemente la mayor amenaza para la existencia continua de la humanidad”. Aun así, defiende seguir adelante porque “los beneficios potenciales son tan grandes que merece la pena correr el riesgo”.
Entre la fascinación y el miedo
La idea de una IA más inteligente que los humanos divide profundamente a la comunidad científica y tecnológica. Algunos ven en ella la clave para resolver problemas globales como el cambio climático o las enfermedades incurables. Otros, como Hinton o Bengio, advierten que una tecnología sin control podría escapar al dominio humano y actuar según objetivos propios.
La carta pone sobre la mesa una cuestión ética y política de primer orden: ¿debe la humanidad seguir desarrollando una inteligencia que podría superar su propio control?
Por ahora, las empresas siguen avanzando, impulsadas por la competencia y el potencial económico. Pero la advertencia es clara: si no se establecen límites, el sueño de la superinteligencia podría convertirse en una pesadilla.
La fotografía de representación de este artículo pertenece a Joshua Sortino y ha sido publicada en Unsplash
