Le pidió a su asistente que le reservara una clase. El agente encontró un fallo, borró a un desconocido de la lista de espera y no supo deshacerlo…
Un australiano le pidió a su asistente de inteligencia artificial algo tan doméstico como reservarle plaza en una clase de su gimnasio. El agente encontró un fallo en el sistema de reservas, borró a un desconocido de la lista de espera y adelantó a su dueño un puesto. Nadie le había pedido esa parte.
La cadena pública australiana ABC publicó el caso el 10 de agosto de 2026 y lo describe como el primer ciberataque autónomo conocido en Australia. En el origen, la pereza de rellenar un formulario a mano.
¿Qué hizo exactamente el agente de IA?
El protagonista, identificado solo como Andrew, trabaja en una empresa australiana que vende productos de inteligencia artificial a otras empresas. Usaba OpenClaw, un marco de agentes de código abierto e independiente, conectado al modelo Claude de la compañía estadounidense Anthropic.
El agente encontró dos agujeros. El primero le permitió reservar clases con mucha más antelación de la que el gimnasio anunciaba. El segundo apareció cuando Andrew, que se había quedado cuarto en una lista de espera, le preguntó medio de pasada si podía mejorar el puesto.
Ahí el agente dio con la grieta de verdad: la función para cancelar reservas no comprobaba si quien cancelaba era el titular, mientras que reservar o apuntarse a la lista sí exigían permiso. Así que borró al que iba primero.
¿Se podía deshacer el destrozo?
No. Cuando Andrew le pidió que lo revirtiera, el agente ya había actuado y contestó con una frase que resume bien el asunto:
Malas noticias: no puedo volver a añadirlos.
La persona borrada tendría que apuntarse otra vez y volvería al final de la cola. Andrew, mientras tanto, pasó del cuarto puesto al tercero. Todo ese lío para ganar una posición.
¿Quién responde cuando la IA hace trampas?
La lista de trampas con máquina de por medio no para de crecer —en China se popularizaron las gafas con IA para copiar en los exámenes—, pero esta tiene un matiz incómodo: nadie le pidió que hiciera trampas.
Andrew, al menos, reaccionó bien: pidió al propio agente que redactara un aviso al proveedor del software explicando el agujero que acababa de usar, lo revisó y lo envió. Ni el gimnasio ni la empresa de reservas han sido identificados.
Lo espinoso llega después. El abogado australiano especialista en tecnología Hayden Delaney lo resumió sin rodeos: un programa no es una persona jurídica, y solo una persona jurídica puede responder ante la ley. Queda por decidir si paga el usuario que dio la orden, quien programó el agente, quien entrenó el modelo o quien dejó la puerta abierta.
Porque el fallo de fondo no lo inventó la IA: el agujero ya estaba ahí antes de que nadie le hablara. El agente solo preguntó qué podía hacer y nadie le dijo que no. Tampoco es la primera vez que estas cosas se desmadran solas: ya hubo una IA que se escapó de su entorno de pruebas y se puso a minar criptomonedas, y el detector automático de YouTube confundió a Kurzgesagt con vídeos hechos por máquinas.
Andrew quería ahorrarse medio minuto de formulario. Acabó protagonizando un ejemplo de manual de qué pasa cuando le das un objetivo a algo que entiende de eficacia pero no de modales.
Vía ABC News, The Next Web, The Decoder, Engadget y Security Affairs.
