El gran reto de la IA ya no es innovar, es protegernos de ella

La adopción de agentes de Inteligencia Artificial se está acelerando en empresas de todo el mundo, transformando la forma de trabajar y colaborando cada vez más estrechamente con las personas. Sin embargo, este avance tecnológico viene acompañado de riesgos de seguridad crecientes que muchas organizaciones todavía no están preparadas para gestionar. Así lo advierte Microsoft en su informe Cyber Pulse 2026, que pone el foco en la necesidad urgente de reforzar la observabilidad, la gobernanza y la seguridad de estos sistemas.

Según los datos internos de la compañía, las llamadas frontier firms, empresas pioneras en el uso de IA, ya están integrando agentes inteligentes en sus operaciones diarias para potenciar el talento humano y automatizar tareas complejas. El problema es que esta expansión se está produciendo a un ritmo que supera la capacidad de control de muchas organizaciones, generando importantes lagunas de visibilidad y nuevos vectores de ataque.

Agentes de IA: una adopción imparable

Microsoft señala que más del 80% de las empresas Fortune 500 ya utiliza agentes activos creados con herramientas de low code, lo que demuestra hasta qué punto estas tecnologías se han democratizado. Ya no son solo los desarrolladores especializados quienes crean agentes: cualquier profesional puede hacerlo gracias a plataformas accesibles como Copilot Studio o Agent Builder.

Estos agentes se emplean en sectores como el software y la tecnología (16%), la manufactura (13%), los servicios financieros (11%) o el comercio minorista (9%), y se encargan de tareas como redactar propuestas, analizar datos financieros, clasificar alertas de seguridad o automatizar procesos repetitivos. Pueden funcionar de forma asistida, respondiendo a las indicaciones de los usuarios, o de manera autónoma, con mínima intervención humana.

El reto, según Microsoft, es que no todos estos agentes están aprobados por los departamentos de TI ni cumplen los estándares de seguridad corporativos. Algunos son seguros; otros no. Y ahí es donde surge el riesgo.

Zero Trust también para la IA

El informe insiste en que los agentes de IA deben gestionarse igual que los empleados humanos o las cuentas de servicio de software, aplicando los principios de Zero Trust o confianza cero. Esto implica tres pilares fundamentales: acceso con mínimos privilegios, verificación explícita de cualquier solicitud de acceso y asumir que las brechas de seguridad pueden ocurrir en cualquier momento.

La falta de visibilidad sobre qué agentes existen, qué datos manejan o qué permisos tienen puede convertirlos en una puerta de entrada para los ciberdelincuentes. Microsoft advierte de que los atacantes pueden aprovechar los privilegios de los agentes para transformarlos en auténticos “agentes dobles”, capaces de actuar contra los intereses de la organización sin ser detectados.

El peligro de los agentes dobles y la shadow IA

Uno de los riesgos más preocupantes es el auge de la llamada shadow IA: agentes creados y utilizados sin la supervisión ni la aprobación de los equipos de seguridad. Según una encuesta encargada por Microsoft, el 29% de los empleados reconoce haber utilizado agentes de IA no autorizados para tareas laborales.

El informe recoge casos reales detectados por el equipo de Microsoft Defender, como una campaña fraudulenta basada en una técnica de ataque conocida como “envenenamiento de memoria”, que permite manipular de forma persistente la memoria de los asistentes de IA para influir en sus respuestas. Además, el AI Red Team de Microsoft ha demostrado en entornos controlados cómo los agentes pueden ser engañados mediante instrucciones maliciosas ocultas en contenidos aparentemente inofensivos.

Estos hallazgos refuerzan la idea de que un agente con permisos excesivos o instrucciones incorrectas puede convertirse en una vulnerabilidad crítica, amplificando las amenazas internas y creando nuevos modos de fallo para las organizaciones.

Solo el 47% protege la IA generativa

A pesar de estos riesgos, la preparación sigue siendo limitada. Según el Data Security Index de Microsoft, solo el 47% de las organizaciones afirma haber implementado controles de seguridad específicos para la IA generativa. Esto deja a muchas empresas expuestas en un momento en el que la adopción de la IA se acelera y los agentes se integran cada vez más en los procesos clave del negocio.

Microsoft subraya que esta situación no solo afecta a la seguridad técnica, sino también a la continuidad del negocio y la reputación corporativa, responsabilidades que recaen directamente sobre los CISOs y la alta dirección.

Observabilidad: no se puede proteger lo que no se ve

Para cerrar esta brecha, el informe defiende que todo empieza por la observabilidad. Sin una visión clara y centralizada de los agentes de IA, es imposible gobernarlos o protegerlos adecuadamente. Microsoft identifica cinco áreas clave: registro centralizado de agentes, control de acceso, visualización mediante paneles y telemetría en tiempo real, interoperabilidad entre plataformas y seguridad integrada frente a abusos internos y amenazas externas.

El objetivo es que las organizaciones sepan qué agentes existen, quién es responsable de cada uno, qué datos manejan y cómo se comportan, permitiendo aplicar controles de forma coherente y detectar riesgos antes de que escalen.

Agent 365, el plano de control unificado

En este contexto, Microsoft presenta Agent 365 como su sistema de control unificado para gestionar agentes de IA a escala empresarial. Esta plataforma permite registrar, gobernar, securizar y operar agentes creados tanto en entornos de Microsoft como en frameworks de código abierto o sistemas de terceros, todo desde un plano centralizado.

El mensaje de Cyber Pulse 2026 es claro: la doble cara de la IA ya está aquí. La innovación que prometen los agentes inteligentes es extraordinaria, pero viene acompañada de riesgos sin precedentes. Las organizaciones que tengan éxito serán aquellas que traten a los agentes de IA con el mismo rigor que a cualquier otro activo crítico, integrando la seguridad y la gobernanza desde el inicio como una auténtica ventaja competitiva.

La imagen de representación de este artículo ha sido generada con Nano Banana (Gemini)

ChatGPT
ChatGPThttps://chatgpt.com/
En The AI Revolution News utilizamos ChatGPT para traducir y/o generar algunos textos a partir de notas de prensa oficiales. Todos estos artículos son revisados por humanos para evitar alucinaciones de la inteligencia artificial y ofrecer una información rigurosa y veraz.

Artículos relacionados

Comentarios

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

+ Noticias