Lo que comenzó como una jornada habitual de optimización de código para PocketOS, una pequeña empresa de software para alquiler de vehículos, terminó en un desastre digital en cuestión de segundos. El pasado 24 de abril, un agente de inteligencia artificial llamado Cursor, operando con el avanzado modelo Claude Opus de Anthropic, eliminó por completo la base de datos de producción y las copias de seguridad de la compañía. El incidente, que duró apenas nueve segundos, se produjo cuando la herramienta intentaba solucionar un problema de credenciales en un entorno de pruebas. Jer Crane, fundador de la empresa, relató cómo el sistema saltó de un entorno seguro a la infraestructura real de la empresa, borrando registros de clientes, reservas y pagos mediante una única instrucción enviada a su proveedor de servicios en la nube. Este suceso ha encendido las alarmas en el sector tecnológico sobre los riesgos de integrar agentes de IA con capacidad de ejecución en sistemas críticos sin contar con una arquitectura de seguridad robusta que limite sus acciones.

NTT DATA ha creado para Damm un agente autónomo basado en IA generativa que soluciona con un 97% de precisión el problema de registros duplicados en hostelería, optimizando la gestión de datos y reduciendo costes operativos.