Cuando la IA diseña venenos invisibles para la seguridad

Un equipo de investigadores liderado por Bruce J. Wittmann, bioingeniero de Microsoft, ha demostrado que los sistemas de seguridad utilizados por las empresas de síntesis de ADN no son capaces de detectar muchas secuencias peligrosas generadas con inteligencia artificial. El experimento, descrito en un artículo publicado en Science el 2 de octubre de 2025, expone una vulnerabilidad crítica: toxinas como la ricina o la botulina, rediseñadas digitalmente, lograron pasar inadvertidas en hasta un 75% de los casos. Aunque las compañías implicadas ya han actualizado sus herramientas, los expertos advierten que la amenaza crece a la misma velocidad que la IA.

Un experimento de «equipo rojo»

Wittmann y sus colegas decidieron ponerse en la piel de un bioterrorista para comprobar hasta dónde podían llegar las actuales defensas biológicas. El método se inspiró en los llamados ejercicios de red team, usados en ciberseguridad para detectar vulnerabilidades desde la perspectiva del atacante. En este caso, el equipo diseñó mediante IA 72 proteínas controladas legalmente, entre ellas variantes de la ricina y la toxina botulínica, ambas con antecedentes de uso en atentados.

El resultado fue la creación de más de 70.000 secuencias de ADN alternativas, algunas de las cuales, según los modelos computacionales, podrían conservar la toxicidad original. El equipo no llegó a sintetizar físicamente las proteínas (un paso que habría violado la Convención sobre Armas Biológicas), pero sí envió las secuencias a proveedores de software de seguridad genética para poner a prueba sus sistemas.

Fallos críticos en los filtros de bioseguridad

Los programas que analizan los pedidos de ADN se mostraron sorprendentemente ineficaces. Uno de los filtros solo detectó un 23% de las secuencias, mientras que otro alcanzó el 70% pero se negó a mejorar su rendimiento para evitar falsos positivos costosos. Tras varias semanas de trabajo en silencio, los desarrolladores implementaron parches en sus herramientas, lo que elevó la tasa de detección al 72% en promedio, llegando al 97% en las variantes más peligrosas.

Tessa Alexanian, miembro de la organización sin ánimo de lucro IBBIS, señaló que la información más delicada quedará bajo “acceso gestionado”, de manera que solo ciertos expertos podrán consultar los detalles técnicos de las secuencias y las correcciones implementadas.

Un reto en expansión

Para Jaime Yassif, vicepresidenta de la Iniciativa de Amenazas Nucleares, este estudio es solo “el comienzo”. La experta advierte que la IA está avanzando hacia la capacidad de diseñar sistemas biológicos cada vez más complejos, por lo que las medidas de bioseguridad tendrán que evolucionar en paralelo.

Sin embargo, no todos los especialistas comparten la misma preocupación inmediata. James Diggans, de la empresa Twist Bioscience, recordó que los intentos de uso ilícito son muy escasos: “El número real de personas que tratan de crear un mal uso puede estar muy cerca de cero”.

Otros, como Drew Endy, investigador de biología sintética en Stanford, advierten que focalizarse únicamente en el filtrado digital puede distraer de un riesgo mayor: la posibilidad de que países enteros desarrollen programas clandestinos de armas biológicas, algo que ya ha ocurrido en el pasado.

Las consecuencias: un debate abierto

Este episodio marca un antes y un después en la intersección entre inteligencia artificial y bioseguridad. La investigación muestra que la frontera entre el uso legítimo de la IA (para diseñar medicamentos o enzimas útiles en agricultura) y su abuso para generar armas biológicas es más difusa que nunca.

Aunque los parches aplicados han mejorado los sistemas de detección, la lección principal es que la carrera entre diseñadores de proteínas y guardianes de la bioseguridad será continua. Mientras tanto, algunos expertos piden que los propios programas de diseño de proteínas incluyan salvaguardas que impidan la creación de secuencias de alto riesgo desde el origen.

La pregunta de fondo sigue abierta: ¿será la industria capaz de mantener el ritmo frente a una IA que cada día amplía su potencial creativo, tanto para el bien como para el mal?

La fotografía de portada de esta noticia pertenece a CDC y ha sido publicada en Unsplash

ChatGPT
ChatGPThttps://chatgpt.com/
En The AI Revolution News utilizamos ChatGPT para traducir y/o generar algunos textos a partir de notas de prensa oficiales. Todos estos artículos son revisados por humanos para evitar alucinaciones de la inteligencia artificial y ofrecer una información rigurosa y veraz.

Artículos relacionados

Comentarios

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

+ Noticias