En un experimento sin precedentes, investigadores de Stanford y Carnegie Mellon enfrentaron a un grupo de expertos en ciberseguridad contra varios agentes de inteligencia artificial en una red universitaria real. El sistema ARTEMIS, impulsado por modelos como GPT-5 de OpenAI y Claude Sonnet 4 de Anthropic, consiguió superar a la mayoría de los hackers humanos descubriendo vulnerabilidades críticas en servidores y sistemas. Más allá del reto técnico, el estudio sugiere que la colaboración entre IA y especialistas humanos podría marcar una nueva era en la defensa digital.

Integral AI, una compañía con sede en Tokio fundada por los exGoogle Jad Tarifi y Nima Asgharbeygi, asegura haber probado con éxito el primer modelo del mundo capaz de alcanzar la Inteligencia Artificial General (AGI). Este sistema, según la empresa, puede aprender nuevas habilidades en entornos reales sin utilizar datos preexistentes ni depender de supervisión humana, un avance que marcaría un antes y un después en la historia de la inteligencia artificial.

Un experimento realizado por investigadores de la Universidad Estatal de Pensilvania ha descubierto que ChatGPT 4o responde con mayor precisión a preguntas formuladas con rudeza que a las planteadas con cortesía. A partir de una muestra de 250 preguntas múltiples redactadas con distintos niveles de tono, los científicos observaron que los mensajes muy rudos obtuvieron un 84,8 % de aciertos, frente al 80,8 % de los muy educados. Este hallazgo contradice estudios previos y plantea nuevas preguntas sobre la interacción social entre humanos e inteligencias artificiales.

Un equipo de investigadores de Anthropic, el UK AI Security Institute y el Alan Turing Institute ha demostrado que solo 250 documentos manipulados pueden introducir un “backdoor” en modelos de lenguaje de hasta 13.000 millones de parámetros, independientemente del tamaño del modelo o de la cantidad de datos usados para entrenarlo. El hallazgo desafía la creencia de que los ataques de data poisoning requieren controlar un porcentaje significativo de los datos de entrenamiento. Aunque el experimento se centró en un caso inofensivo —hacer que el modelo genere texto incoherente al detectar un comando oculto—, los expertos advierten que la facilidad de estos ataques obliga a reforzar la seguridad en la formación de futuros modelos de IA.

El Ministerio para la Transformación Digital y de la Función Pública, a través de Red.es, ha anunciado una inversión de 200 millones de euros para formar a 80.000 profesionales colegiados en digitalización e inteligencia artificial. El programa, financiado por el Plan de Recuperación con fondos europeos Next Generation EU, comenzará en el último cuatrimestre de 2025 y se enmarca en la iniciativa Generación D.

Un experimento con programadores veteranos en proyectos reales muestra que las herramientas de inteligencia artificial no mejoran su productividad, sino que la empeoran en un 19 %.

Un equipo de investigadores del laboratorio METR ha medido por primera vez cuánto tiempo puede trabajar una IA de manera autónoma antes de fracasar. El resultado: los sistemas más avanzados ya completan tareas que llevarían 50 minutos a un humano, y esta cifra se duplica cada siete meses. En lugar de centrarse en benchmarks cerrados o pruebas específicas, los autores han desarrollado una métrica llamada time horizon que mide cuánto tiempo puede trabajar una IA en una tarea realista antes de fallar.

Investigadores de Canadá y Japón han presentado la Darwin Gödel Machine, un sistema de inteligencia artificial capaz de mejorar su propio diseño de forma autónoma. Inspirada en la evolución biológica y en teorías matemáticas, esta máquina ha logrado superar a agentes humanos en tareas de programación, lo que podría suponer un avance decisivo hacia una IA que evoluciona sin intervención humana. La DGM combina la idea teórica de las máquinas Gödel con un enfoque evolutivo más pragmático.