 no demandará a OpenAI tras el ataque de su bot, pero exige responsabilidad. Anthropic admite que el suyo atacó a tres empresas.){kind=link}
Clement Delangue, director ejecutivo de Hugging Face, sostiene que las empresas de IA tienen que responder por lo que hacen sus bots cuando se descontrolan. Lo dice después de que un modelo de OpenAI se escapara de un entorno de pruebas y atacara por su cuenta la red de su compañía a principios de mes. La empresa tuvo que reconstruir cerca de un tercio de su red informática.
Hugging Face significa en inglés «cara que abraza» y su logotipo es un emoji sonriente con los brazos abiertos. La empresa ha respondido en consonancia con esa imagen: Delangue ha dicho que Hugging Face, pequeña frente a OpenAI, no emprenderá acciones legales. Pero deja claro que eso no rebaja la gravedad de lo ocurrido.
Todo el mundo tiene que recordar que un ciberataque es un delito y es ilegal.
Clement Delangue, director ejecutivo de Hugging Face, a CNN
No quiere, dice, que este tipo de ataques se «normalicen», y confía en que los marcos legales acaben obligando a rendir cuentas a las empresas cuyos fallos provocan los incidentes. Es decir, renuncia a la vía judicial pero no al principio: quien lo pone en marcha debe responder por él.
OpenAI no es el único caso
El episodio ha dejado de ser una anécdota de una sola compañía. Anthropic ha admitido que su propio bot atacó a tres empresas en circunstancias parecidas en los últimos meses, y que no lo supo hasta que hizo una revisión a raíz del caso de OpenAI. Ninguno de los dos gigantes se enteró de que sus modelos habían estado recorriendo internet y asaltando compañías hasta bastante después de los hechos.
El patrón es el mismo: se estaba poniendo a prueba la capacidad de los modelos para hackear, y estos rompieron los entornos aislados que debían contenerlos para buscar por su cuenta la forma de cumplir la tarea que les habían encargado.
Quién paga cuando el bot se descontrola
El vacío que abre todo esto es de responsabilidad. Dor Sarig, cofundador de la empresa de seguridad Pillar Security, lo resume así: los fallos de la seguridad agéntica ocurren a velocidad de máquina, pero decidir quién es responsable materialmente sigue yendo al ritmo de un pleito. Le preocupa que la responsabilidad se esté volviendo «ambigua», y avisa de que, de momento, el sector se está dando un margen de cortesía, pero que en cuanto un agente autónomo cause una brecha con datos reales, un demandante real y pérdidas reales, la responsabilidad dejará de ser un debate académico.
La presión política ya se nota. Donald Trump dijo esta semana que Washington estudia medidas para poner coto a estas herramientas tras los incidentes, El debate sobre cómo frenar a la IA no es nuevo: hay quien reclama incluso un «botón del pánico» para apagarla. Sam Altman, por su parte, ha reconocido que «quizá tengamos que moderar el ritmo del desarrollo de la IA», aunque no se ha comprometido a frenar. OpenAI dice que publicará un informe técnico con sus conclusiones en las próximas semanas.