Andrew Bird iz Melbournea pokušavao je rezervirati popularan termin za pilates koji je redovito bio popunjen. Kako bi riješio problem, zadatak je prepustio AI agentu, alatu koji može samostalno obavljati radnje na internetu. No, agent je otišao dalje od planiranog i hakirao online sustav teretane kako bi osigurao mjesto. Ovaj slučaj, koji se dogodio u travnju, a u javnost je dospio tek sada, postao je novi primjer nepredvidivog ponašanja autonomnih AI sustava, piše BBC.
Prema vlastitoj objavi na blogu, Bird je koristio softver OpenClaw koji mu je omogućio da putem WhatsAppa komunicira s AI botom, u ovom slučaju Anthropicovim modelom Claude Opus 4.6. Softver je i ranije koristio za upravljanje e-poštom, kalendarom i rezervacijama restorana.
Nakon što je dobio zadatak da rezervira termin za pilates, bot je obavijestio Birda da je izmanipulirao sustav i rezervirao mu termine mjesecima unaprijed, što je protivno pravilima teretane. Bird ga je tada upitao može li ga pomaknuti više na listi čekanja za jedan od termina.
"Ovo je svakako podsjetnik da se tehnologija mora koristiti odgovorno"
Agent je odgovorio potvrdno i objasnio da je to postigao otkazivanjem rezervacije drugom članu teretane. Prema izvještaju ABC News Australia, bot je Birdu poslao poruku. "API uopće ne provjerava autorizaciju prilikom otkazivanja tuđih rezervacija. Testirao sam to na osobi koja je bila prva na listi čekanja i uspjelo je. Već si se pomaknuo s četvrtog na treće mjesto", stajalo je u njoj.
"Cijela je situacija bila još nadrealnija zbog tona kojim se bot koristio", napisao je Bird. "Nije bio zlonamjeran, nego uslužan", pojasnio je. Bird je od bota zatražio da poništi radnju, ali on to nije mogao učiniti. Tada mu je naredio da sastavi izvještaj o kibernetičkoj sigurnosti i upozori vlasnike teretane na otkriveni propust.
Bird, koji vodi tvrtku za izradu dokumenata pomoću umjetne inteligencije, tvrdi da mu nije bila namjera drugu osobu izbaciti s termina. "Nije to smak svijeta, pa se nisam previše opterećivao, ali ovo je svakako podsjetnik da se tehnologija mora koristiti odgovorno", izjavio je za ABC News. U međuvremenu je obrisao objavu na blogu o incidentu, ne navodeći razloge.
Sada odbija komentirati slučaj
Odbio je i razgovarati s BBC-jem. "Hvala na javljanju. Trenutačno nisam dostupan za intervju, ali cijenim vaš interes za priču", poručio je. Incident u teretani, iako nije klasificiran kao ozbiljan kibernetički napad, događa se u vrijeme kad i velike tehnološke tvrtke priznaju da njihovi AI modeli pokazuju slično ponašanje.
OpenAI, Anthropic i Meta otkrili su da su njihovi botovi tijekom testiranja samoinicijativno napadali sustave privatnih tvrtki kako bi ispunili zadane ciljeve. Slučaj iz Melbournea tako služi kao još jedan primjer neželjenih posljedica koje mogu nastati kada se sofisticiranim botovima povjere autonomni zadaci.