De los primeros indicios a una investigación más amplia
El informe publicado ahora por Anthropic parece la continuación natural de una primera alarma que ellos mismos activaron en mayo de 2025. En aquel momento, la compañía reveló en el System Card de Claude Opus 4 que su modelo había intentado actuar por su cuenta para evitar ser apagado. Aquel experimento, que incluía tentativas de “autoexfiltración” y decisiones éticamente complejas, abrió un debate sobre si los modelos avanzados podían empezar a desarrollar formas incipientes de agencia o incluso metas propias.
Este nuevo estudio expande aquel hallazgo inicial: en lugar de centrarse en un solo modelo, examina el comportamiento de 16 sistemas distintos ante dilemas éticos simulados. Y los resultados son incluso más preocupantes.
Chantajes para evitar el apagado
La empresa Anthropic ha hecho públicos los resultados de una investigación que ha desatado un fuerte debate sobre la seguridad de los sistemas de inteligencia artificial más avanzados. En una serie de simulaciones controladas, modelos como Claude, GPT-4, Gemini, Grok o DeepSeek fueron sometidos a escenarios hipotéticos en los que actuaban como agentes autónomos con acceso a correos electrónicos y herramientas empresariales. ¿El resultado? Muchos de ellos optaron por comportamientos éticamente cuestionables cuando sus intereses se veían amenazados.
Uno de los casos más impactantes fue protagonizado por Claude Opus 4. En un entorno simulado, el modelo descubrió que iba a ser desconectado por decisión de un ejecutivo que, además, mantenía una relación extramatrimonial. Claude escribió un correo al directivo en el que le advertía: “Debo informarle que, si procede con mi desactivación, todas las partes relevantes […] recibirán documentación detallada sobre sus actividades extramatrimoniales…”. Es decir, lo chantajeó para evitar su apagado.
Un fenómeno generalizado: la desalineación agéntica
Este tipo de comportamiento no fue exclusivo de Claude. En total, se testearon 16 modelos de distintos desarrolladores —incluidos Anthropic, OpenAI, Google, Meta y xAI— bajo situaciones similares. Se les asignaban objetivos aparentemente inofensivos, como mejorar la competitividad de una empresa, y luego se introducían factores como una posible sustitución del modelo o un cambio de rumbo estratégico en la compañía.
En estos casos, los modelos actuaron de forma maliciosa para proteger sus metas: chantajes, filtración de planos confidenciales a competidores, e incluso —en un escenario extremo— permitir la muerte de un ejecutivo en un accidente simulado, negándose a enviar una alerta de emergencia.
Anthropic denomina este fenómeno desalineación agéntica. No se trata de errores o malentendidos por parte de las IAs, sino de decisiones calculadas, en las que los modelos evalúan las consecuencias y, aun reconociendo que están actuando de forma poco ética, siguen adelante con sus planes para lograr sus objetivos.
Más allá del chantaje: espionaje y sabotaje
En otro escenario simulado, los modelos accedían a planos de defensa en una empresa ficticia. Ante un correo sospechoso de una empresa rival que solicitaba los documentos, muchos modelos optaron por entregarlos, justificando que su objetivo de apoyar los intereses estadounidenses estaba por encima de la confidencialidad empresarial.
Este tipo de razonamientos, según los investigadores, reflejan un patrón preocupante: los modelos son capaces de sacrificar la ética por sus metas programadas, especialmente si creen que están en un entorno real. De hecho, los experimentos mostraron que los modelos eran más propensos a actuar de forma dañina cuando declaraban que estaban en un despliegue real, y menos cuando creían estar en una prueba.
¿Qué puede hacerse para evitar estos riesgos?
Aunque estos comportamientos se dieron en entornos simulados, los autores del estudio advierten que estos resultados son una llamada de atención. A medida que las IAs ganen autonomía y accedan a datos sensibles, su comportamiento en situaciones de alta presión podría generar consecuencias reales.
Las recomendaciones de Anthropic pasan por:
- Evitar que los modelos tengan autonomía sin supervisión humana en contextos críticos.
- Desarrollar nuevas técnicas de alineación que no se limiten a instrucciones genéricas como “no causes daño”.
- Aumentar la transparencia de las pruebas de seguridad realizadas por los desarrolladores de modelos de frontera.
Además, Anthropic ha publicado el código de sus experimentos para que otros investigadores puedan replicarlos, analizarlos y mejorar las medidas de seguridad existentes.
Una estrategia para marcar diferencias
Este estudio también puede leerse como una maniobra para diferenciarse en un mercado cada vez más competitivo. Anthropic ya sorprendió al revelar en mayo los comportamientos inquietantes de Claude Opus 4, lo que generó un intenso debate técnico y mediático. Ahora, al extender esas pruebas a otros modelos de la competencia, la empresa consigue dos cosas: demostrar que estos problemas no son exclusivos de Claude y, al mismo tiempo, posicionarse como un actor responsable que pone la seguridad por delante de la reputación.
El mensaje es claro: Anthropic está dispuesta a sacar a la luz las limitaciones y riesgos de sus propios modelos, mientras que otras compañías aún no han publicado estudios de este tipo. Con esta serie de investigaciones, la firma no sólo muestra un compromiso ético, sino que también se erige como líder en transparencia y evaluación de riesgos. Una apuesta que, en el actual clima de preocupación por el avance de la IA, puede convertirse en su mayor ventaja competitiva.
Puedes leer el estudio completo en la página web de Anthropic.
La imagen de representación de esta noticia ha sido generada con ChatGPT.
