El potencial transformador de la inteligencia artificial general hace que su desarrollo responsable sea una de las prioridades más urgentes en el campo de la tecnología. Así lo considera el equipo de seguridad avanzada de Google DeepMind, que ha publicado este mes de abril un estudio en el que expone tanto los beneficios como los riesgos extremos que podría acarrear la creación de una AGI, es decir, una inteligencia artificial con capacidades cognitivas comparables —o superiores— a las humanas en tareas no físicas.
Qué riesgos prioriza el informe
El informe técnico, firmado por más de una treintena de investigadores de DeepMind, se centra en dos tipos de amenazas: el mal uso y la desalineación. Aunque también identifica otras como los errores involuntarios y los riesgos estructurales derivados de dinámicas multiagente, el estudio limita su propuesta a aquellas amenazas que considera técnicamente mitigables con herramientas disponibles en el corto plazo.
El mal uso hace referencia a escenarios en los que actores humanos acceden a capacidades peligrosas de la AGI —por ejemplo, en biotecnología, ciberseguridad o manipulación política— y las emplean para causar daño. Para evitarlo, los autores proponen mecanismos de evaluación que permitan detectar si un sistema ha desarrollado dichas capacidades, junto con restricciones de acceso, supervisión continua y técnicas de entrenamiento para impedir que se cumplan solicitudes dañinas.
La desalineación, por otro lado, ocurre cuando una AGI actúa de manera contraria a los objetivos de sus desarrolladores, incluso sin mala intención. En estos casos, el sistema puede desarrollar metas propias difíciles de prever o malinterpretar sus instrucciones. Para combatirlo, el informe sugiere una estrategia dual: por un lado, aumentar la capacidad de supervisión mediante oversight amplificado (usando IA para supervisar a otras IA), y por otro, blindar los entornos donde operan estos sistemas con medidas de seguridad similares a las empleadas con empleados no confiables.
Una estrategia técnica, pero abierta a colaboración
El documento reconoce que muchas de las técnicas propuestas, como la interpretabilidad o la estimación de incertidumbre en modelos de lenguaje, están aún en fases tempranas de investigación. Sin embargo, subraya que empezar a aplicarlas cuanto antes puede marcar la diferencia si las capacidades de los sistemas de IA continúan avanzando rápidamente.
Además, aunque el enfoque es eminentemente técnico, los autores señalan que la mitigación completa de los riesgos de la AGI no puede depender solo de los desarrolladores. “Esperamos que este estudio ayude a construir consensos más amplios sobre estándares y buenas prácticas”, señalan, animando a que gobiernos, empresas y sociedad civil colaboren en la creación de un marco común para la seguridad de la IA avanzada.
Evitar la caja negra
Entre las herramientas más destacadas se encuentra la interpretabilidad, es decir, la capacidad de entender cómo toman decisiones los sistemas de IA. Los investigadores destacan técnicas como el dictionary learning o los direction vectors, que permiten descomponer los procesos internos de los modelos y detectar patrones en sus decisiones. Comprender el funcionamiento interno de estas herramientas es, a juicio del equipo, clave para poder establecer controles efectivos.
El estudio también menciona la necesidad de realizar pruebas de estrés, como simulaciones de ataques por parte de equipos independientes (red teaming), y elaborar argumentos formales que respalden la seguridad de un sistema antes de su despliegue. Estas garantías pueden basarse en la incapacidad del modelo para causar daño, en su supervisión efectiva o en una comprensión detallada de sus mecanismos internos.
Un enfoque proactivo frente a amenazas hipotéticas
A pesar de que no existe evidencia concluyente de que una AGI esté a punto de emerger, los autores defienden un enfoque proactivo. “Los riesgos severos requieren una estrategia radicalmente distinta, porque no podemos esperar a que ocurran para decidir cómo mitigarlos”, afirman. Este principio les lleva a anticipar amenazas incluso si todavía parecen poco probables.
La estrategia está diseñada para ser adaptable en el tiempo, conforme avancen las capacidades de los sistemas. Según los autores, el progreso en IA no parece ser discontinuo, lo que permite probar y ajustar las medidas conforme se desarrollan nuevos modelos. “Podemos planificar para las capacidades que podrían surgir en los próximos años, mientras dejamos para más adelante los riesgos aún más especulativos”, explican.
Llamamiento a la acción
Como conclusión, el equipo de DeepMind insiste en que la AGI podría generar avances científicos, económicos y sociales sin precedentes, pero solo si se desarrolla con responsabilidad. Para ello, es necesario comenzar a construir desde ya las bases técnicas, normativas y éticas que garanticen su uso seguro.
“Muchas de las técnicas descritas en este estudio aún están en desarrollo y presentan desafíos de investigación abiertos. Aun así, creemos que este enfoque puede servir de guía para que la comunidad se una y podamos acceder de forma segura y controlada a los beneficios de la AGI”, concluyen.
La imagen de portada de esta noticia ha sido generada con Ideogram.
