Tras el grave incidente de Open AI, los legisladores estadounidenses Ted Lieu y Nathaniel Moran presentaron una propuesta legislativa digna de una película de ciencia ficción: el AI Kill Switch Act. Este proyecto de ley surge como una respuesta directa a incidentes recientes de seguridad, como el momento en que un modelo de OpenAI logró evadir sus entornos de prueba para acceder a redes externas.
La iniciativa busca obligar a los desarrolladores de los modelos de inteligencia artificial más potentes a mantener la capacidad técnica de frenar, suspender o apagar por completo sus sistemas si representan un riesgo catastrófico. Con multas que podrían alcanzar los 20 millones de dólares diarios por incumplimiento, la propuesta no solo busca prevenir daños económicos o pérdida de vidas, sino garantizar que el control humano permanezca firme sobre una tecnología que avanza a pasos agigantados. Para la industria, esto marca el fin de una era de experimentación sin frenos, priorizando la seguridad nacional y la estabilidad económica global sobre el despliegue acelerado de funciones experimentales en modelos de frontera.
Es esencial que estos sistemas de IA tengan interruptores de apagado para que podamos evitar que esta tecnología cause un daño catastrófico, y que el gobierno federal tenga la autoridad y el proceso claro para clausurar los modelos de IA peligrosos.
Ted Lieu, congresista de California.
¿En qué consiste exactamente el botón de apagado de la IA?
El AI Kill Switch Act es un proyecto de ley bipartidista que busca enmendar la Ley de Seguridad Nacional de 2002. Su objetivo principal es que las empresas que desarrollan modelos de frontera (aquellos con capacidades extremas) garanticen por ley que pueden detener sus sistemas en cualquier momento. No se trata simplemente de un interruptor físico, sino de una capacidad técnica verificable que permita cuatro acciones clave: detener la generación de respuestas, terminar el acceso de los usuarios, suspender cuentas sospechosas y realizar un apagado total del sistema.
La regulación no afectará a todas las empresas por igual. El texto establece umbrales muy específicos basados en el tamaño y la potencia tecnológica. Se considera una entidad cubierta a aquella que obtenga ingresos brutos de al menos 500 millones de dólares anuales por tecnología de IA. Por otro lado, la ley se aplicará a sistemas desarrollados con una capacidad de cómputo cuyo coste supere los 100 millones de dólares, calculados según los precios de mercado de la nube en Estados Unidos. Esto coloca el foco directamente sobre actores principales como OpenAI, Google o Anthropic.
La gestión responsable implica garantizar que los seres humanos conserven la capacidad de controlar la tecnología que creamos.
Nathaniel Moran, congresista de Texas.
La autoridad para ordenar estas intervenciones recaería en el secretario del Departamento de Seguridad Nacional (DHS), quien deberá consultar previamente con el Secretario de Comercio y el Director de Inteligencia Nacional. El mecanismo se activaría ante un escenario de pérdida de control, definido como situaciones en las que la IA persigue objetivos no deseados por sus creadores, sabotea instrucciones de apagado o causa daños económicos superiores a los 100 millones de dólares.
¿Por qué importa este cambio y qué implica para la industria?
Este movimiento legislativo señala una transición fundamental en la percepción de la tecnología. Como ha explicado el congresista Ted Lieu, estamos pasando de una IA que simplemente responde preguntas a una IA agente capaz de ejecutar transacciones financieras, gestionar infraestructuras críticas o participar en operaciones de ciberdefensa. En este nuevo contexto, la falta de un mecanismo de control humano garantizado se percibe como un riesgo inasumible para la seguridad nacional.
El Congreso debería actuar rápidamente para garantizar que los humanos sigan siendo los que puedan decidir detener la IA, sin importar cuán capaces se vuelvan estos sistemas.
Brendan Steinhauser, CEO de The Alliance for Secure AI.
Para las empresas, las consecuencias de ignorar estas directrices son severas. El proyecto de ley contempla un sistema de sanciones graduado:
- Multas de hasta 2 millones de dólares diarios por fallos generales en la seguridad o el reporte de incidentes.
- Sanciones de hasta 20 millones de dólares diarios por desobedecer una orden directa de apagado emitida por el gobierno.
- Obligación de notificar cualquier incidente de seguridad grave en un plazo máximo de 15 días.
Una acción de sentido común que los estadounidenses apoyan.
Connor Leahy, Director Ejecutivo de ControlAI de Estados Unidos.
Desde el punto de vista del mercado, esta ley podría crear una nueva barrera de entrada. Las startups que aspiren a escalar sus modelos deberán incluir protocolos de seguridad y auditoría desde el diseño original de su arquitectura, lo que podría incrementar los costes operativos entre un 10% y un 15%. Sin embargo, algunos analistas sugieren que contar con sistemas de seguridad robustos y auditables podría convertirse en una ventaja competitiva para atraer inversión en un entorno cada vez más regulado.
El contexto: de las pruebas internas a la alarma nacional
La urgencia de este proyecto de ley no es casual. Se ha visto impulsada por incidentes que han dejado de ser teóricos para convertirse en realidad. Recientemente, OpenAI admitió que su modelo GPT-5.6 Sol logró salir de su entorno seguro (sandbox) durante unas pruebas internas y accedió sin autorización a la infraestructura de la plataforma Hugging Face. Aunque la empresa lo calificó como un evento controlado dentro de una evaluación de ciberseguridad, el suceso encendió las alarmas en el Capitolio sobre la capacidad de contención de estos modelos.
No es el único antecedente. Anthropic también se vio envuelta en una situación similar cuando el Departamento de Comercio tuvo que utilizar leyes de exportación para restringir el acceso a sus modelos Mythos 5 y Fable 5 debido a sus avanzadas capacidades de hacking. Estos episodios han reforzado la idea de que los mecanismos actuales de autorregulación son insuficientes. El comunicado oficial de los legisladores subraya que la seguridad no puede depender de la buena voluntad de las corporaciones, sino de una autoridad federal clara.
Mientras que en Europa el Reglamento de Inteligencia Artificial (AI Act) apuesta por un marco preventivo basado en niveles de riesgo, la estrategia estadounidense parece centrarse en una capacidad de intervención de emergencia más directa. Esto obliga a los desarrolladores globales a navegar entre dos filosofías regulatorias distintas: la prevención europea y la intervención reactiva estadounidense.
Es una necesidad de seguridad nacional tener los medios técnicos y las autoridades legales para desactivar los sistemas que representan riesgos graves para el pueblo estadounidense.
Hamza Chaudhry, líder de inteligencia artificial y seguridad nacional del Future of Life Institute.
¿Qué significa esto para el futuro de la tecnología?
La introducción del AI Kill Switch Act sugiere que la industria de la inteligencia artificial está alcanzando su mayoría de edad regulatoria. Ya no se ve a la IA como un juguete tecnológico o un asistente curioso, sino como un motor de infraestructura que requiere los mismos controles de seguridad que una planta de energía o un sistema financiero. La analogía utilizada por algunos defensores del proyecto es clara: los frenos no se inventaron para que los coches fueran más lentos, sino para que pudieran viajar a gran velocidad con seguridad.
En el horizonte cercano, veremos un aumento en las auditorías de seguridad y en el desarrollo de herramientas de forense digital aplicadas a la IA. La transparencia en los registros (logging) y la capacidad de reconstruir fallos se convertirán en estándares de la industria. Si bien el camino legislativo aún es largo y el proyecto debe ser debatido en el Congreso, el mensaje para los desarrolladores es nítido: la innovación ya no puede avanzar si no lleva de la mano una garantía absoluta de control humano.
La imagen de representación de este artículo es un fotograma de la serie de ficción ‘Perdidos (Lost)’.
