En un experimento sin precedentes, investigadores de Stanford y Carnegie Mellon enfrentaron a un grupo de expertos en ciberseguridad contra varios agentes de inteligencia artificial en una red universitaria real. El sistema ARTEMIS, impulsado por modelos como GPT-5 de OpenAI y Claude Sonnet 4 de Anthropic, consiguió superar a la mayoría de los hackers humanos descubriendo vulnerabilidades críticas en servidores y sistemas. Más allá del reto técnico, el estudio sugiere que la colaboración entre IA y especialistas humanos podría marcar una nueva era en la defensa digital.

Anthropic ha detectado la primera campaña de ciberespionaje global ejecutada casi por completo por una inteligencia artificial. La operación, atribuida a un grupo estatal chino, utilizó la herramienta Claude Code para infiltrarse en empresas y agencias gubernamentales, marcando un punto de inflexión en la historia de la ciberseguridad.

Un equipo de investigadores de Anthropic, el UK AI Security Institute y el Alan Turing Institute ha demostrado que solo 250 documentos manipulados pueden introducir un “backdoor” en modelos de lenguaje de hasta 13.000 millones de parámetros, independientemente del tamaño del modelo o de la cantidad de datos usados para entrenarlo. El hallazgo desafía la creencia de que los ataques de data poisoning requieren controlar un porcentaje significativo de los datos de entrenamiento. Aunque el experimento se centró en un caso inofensivo —hacer que el modelo genere texto incoherente al detectar un comando oculto—, los expertos advierten que la facilidad de estos ataques obliga a reforzar la seguridad en la formación de futuros modelos de IA.

El proyecto curl, uno de los pilares del software libre, llevaba tiempo recibiendo informes falsos generados por inteligencia artificial. Pero un investigador polaco ha demostrado que, bien utilizada, la IA puede ser una aliada poderosa. Gracias a su trabajo, se han corregido cerca de 50 fallos reales en el código, marcando un punto de inflexión en cómo los programadores perciben estas tecnologías.