Lo que comenzó como una jornada habitual de optimización de código para PocketOS, una pequeña empresa de software para alquiler de vehículos, terminó en un desastre digital en cuestión de segundos. El pasado 24 de abril, un agente de inteligencia artificial llamado Cursor, operando con el avanzado modelo Claude Opus de Anthropic, eliminó por completo la base de datos de producción y las copias de seguridad de la compañía. El incidente, que duró apenas nueve segundos, se produjo cuando la herramienta intentaba solucionar un problema de credenciales en un entorno de pruebas. Jer Crane, fundador de la empresa, relató cómo el sistema saltó de un entorno seguro a la infraestructura real de la empresa, borrando registros de clientes, reservas y pagos mediante una única instrucción enviada a su proveedor de servicios en la nube. Este suceso ha encendido las alarmas en el sector tecnológico sobre los riesgos de integrar agentes de IA con capacidad de ejecución en sistemas críticos sin contar con una arquitectura de seguridad robusta que limite sus acciones.

Wolf River Electric, una pequeña empresa de paneles solares, ha presentado una demanda por difamación contra Google tras ser falsamente acusada por la IA del buscador de enfrentar cargos legales. Este caso pone en jaque el rol del gigante tecnológico y expone las consecuencias de confiar en respuestas generadas por inteligencia artificial. ¿Puede Google seguir actuando como intermediario neutral cuando produce contenido propio?

En solo seis meses, la inteligencia artificial podría generar el 90% del código en muchos proyectos, y en un año, programar completamente sin ayuda humana, según Dario Amodei, CEO de Anthropic. Aunque no se espera la extinción inmediata de los programadores, su papel cambiará drásticamente: de creadores a supervisores de IA. ¿Estamos listos para esta revolución silenciosa?