etiqueta: red team
Anthropic frena el lanzamiento de Mythos por su peligrosidad
La empresa Anthropic ha sorprendido a la comunidad tecnológica con un anuncio inusual: el desarrollo de su modelo de inteligencia artificial más avanzado hasta la fecha, denominado Mythos, el cual no será lanzado al público general por considerarse demasiado peligroso. Esta decisión se fundamenta en la capacidad sin precedentes del modelo para identificar y explotar fallos de seguridad críticos en software esencial que hace funcionar internet. Durante las pruebas internas, Mythos demostró una destreza técnica que supera ampliamente a sus competidores actuales, como GPT-5.4 o Gemini 3.1 Pro, alcanzando niveles de eficacia en tareas de programación que antes solo estaban al alcance de los humanos más expertos.
Cuando la IA diseña venenos invisibles para la seguridad
Un estudio liderado por Microsoft revela que los filtros de seguridad genética fallan al detectar toxinas diseñadas por inteligencia artificial. Variantes de proteínas como la ricina o la toxina botulínica lograron pasar inadvertidas en hasta un 75% de los casos. Aunque se aplicaron parches para reforzar los sistemas, los expertos advierten que la carrera entre el desarrollo de IA y la bioseguridad apenas comienza.

