Anthropic busca expertos en armas químicas para blindar su IA

Imagina una inteligencia artificial capaz de explicar detalladamente cómo fabricar un arma química o una «bomba sucia» desde la comodidad de un chat. Para evitar que esta pesadilla se haga realidad, Anthropic, la empresa detrás del asistente Claude, ha publicado una vacante sorprendente: un Gerente de Políticas para Armas Químicas y Explosivos de Alto Rendimiento. Este puesto, ubicado en Nueva York y con un salario que alcanza los 285.000 dólares anuales, busca doctores en química con más de cinco años de experiencia en defensa y materiales energéticos.

La iniciativa subraya una preocupación creciente en la industria: a medida que los modelos de lenguaje se vuelven más potentes, aumenta el riesgo de un mal uso catastrófico. Anthropic no está sola en esta carrera por la seguridad, ya que OpenAI también busca perfiles similares, ofreciendo sueldos que casi duplican esta cifra. Esta búsqueda de «hackers éticos» de la destrucción masiva ocurre en un momento de máxima tensión entre Anthropic y el gobierno de EE. UU., que ha calificado a la empresa como un «riesgo para la cadena de suministro» a pesar de sus esfuerzos por limitar el uso militar de su tecnología.

¿En qué consiste este nuevo rol de seguridad?

La misión principal de este nuevo integrante en Anthropic será diseñar e implementar metodologías de evaluación para medir qué tanto sabe la IA sobre la síntesis de armamento químico y materiales energéticos. No se trata solo de un cargo administrativo, sino de una posición técnica de alto nivel que requiere un doctorado en Química o Ingeniería Química. El experto deberá crear modelos de amenaza que identifiquen precursores químicos, rutas de síntesis y técnicas de armamento que la IA jamás debería revelar a un usuario.

Además, el gerente trabajará codo a codo con ingenieros de software para refinar los sistemas de detección y las herramientas de cumplimiento automatizadas. Esto incluye el monitoreo de tráfico para identificar violaciones de las políticas de uso y la respuesta rápida ante consultas peligrosas que logren saltarse los filtros iniciales. El objetivo es establecer puntos de referencia de seguridad (o benchmarks) que definan los límites del conocimiento que el modelo puede compartir sobre información de doble uso.

La empresa busca a alguien capaz de navegar en la ambigüedad de los nuevos desafíos de seguridad, traduciendo conocimientos científicos complejos en requisitos de seguridad accionables. Esto es vital para garantizar que sistemas como Claude sigan siendo beneficiosos para la sociedad sin convertirse en una herramienta para actores malintencionados.

¿Por qué importa este movimiento ahora?

La industria de la IA vive un dilema ético constante: cuanto más capaz es una herramienta para ayudar a un científico a descubrir un nuevo fármaco, más capaz es también de ayudar a un terrorista a diseñar un gas tóxico. La preocupación de Anthropic es que sus herramientas puedan proporcionar instrucciones sobre cómo fabricar armas químicas o dispositivos de dispersión radiológica, conocidos popularmente como bombas sucias.

Este movimiento tiene implicaciones directas en tres frentes principales:

• Seguridad global: Se busca prevenir que el conocimiento especializado sea democratizado de forma peligrosa.
• Competencia por el talento: La lucha por expertos en seguridad es feroz. Mientras Anthropic ofrece hasta 285.000 dólares, OpenAI tiene vacantes similares con sueldos de hasta 455.000 dólares.
• Regulación y ética: La contratación de estos expertos intenta llenar un vacío legal, ya que actualmente no existe un tratado internacional que regule este tipo de trabajos con IA y armamento.

Sin embargo, no todos ven con buenos ojos este enfoque. Algunos expertos, como la investigadora Stephanie Hare, advierten que alimentar a la IA con información sensible sobre armas, incluso para entrenarla a no usarla, es un riesgo en sí mismo. Según Hare, este trabajo se está realizando «fuera de la vista» del público y sin una supervisión clara.

Contexto: Una empresa en guerra con el Pentágono

Anthropic no es una empresa tecnológica convencional; es una Corporación de Beneficio Público que prioriza la seguridad y la fiabilidad [1, 2]. Su fundador, Dario Amodei, ha sido vocal al afirmar que la tecnología actual aún no es lo suficientemente madura ni segura para ser utilizada en armas totalmente autónomas o vigilancia masiva.

Esta postura ética ha provocado un choque frontal con el gobierno de Estados Unidos. Recientemente, Anthropic presentó una demanda contra el Departamento de Defensa tras ser designada como un «riesgo para la cadena de suministro». Esta etiqueta coloca a la firma estadounidense en la misma lista negra que la gigante china Huawei, algo que asociaciones del sector tecnológico han calificado como un «berrinche» gubernamental.

A pesar de estas tensiones, la IA de Anthropic, Claude, ya está integrada en sistemas de empresas como Palantir y está siendo desplegada por el ejército estadounidense en conflictos actuales.

¿Qué significa esto para el futuro?

La contratación de expertos en armas químicas marca una nueva etapa en la evolución de la inteligencia artificial: la era de la defensa proactiva. Ya no basta con que una IA sea inteligente; ahora debe ser inherentemente segura ante las amenazas más oscuras de la humanidad. Aunque la tecnología avanza a un ritmo vertiginoso sin signos de frenar, estas contrataciones sugieren que las empresas son conscientes de que un solo error catastrófico podría cambiar la percepción pública de la IA para siempre.

El desafío será equilibrar la apertura científica con la protección contra el mal uso. El éxito de estos nuevos «guardianes químicos» determinará si la inteligencia artificial seguirá siendo una aliada del progreso o si, por el contrario, los temores sobre su potencial destructivo terminarán por imponer regulaciones mucho más severas. Por ahora, Anthropic apuesta por el talento humano especializado como la mejor barrera de contención.

_{La fotografía de representación de esta noticia pertenece a Zalfa Imani y ha sido publicada en Unsplash}