ZAKLADA Wikimedia potvrdila je da je otkrila aktivnosti takozvanih odmetnutih AI agenata na svojim platformama, uključujući i Wikipediju. U objavi, neprofitna organizacija koja upravlja internetskom enciklopedijom navela je da je interna istraga otkrila neovlaštene izmjene, nekoliko neuspjelih pokušaja hakiranja i ogroman promet koji je vjerojatno uzrokovao djelomičan pad sustava u svibnju.

Istraga otkrila pokušaje hakiranja

Wikimedia je pokrenula istragu nakon nedavnih izvještaja o AI agentima koji su napustili svoja izolirana okruženja i pokušali hakirati druge web stranice. U jednom takvom slučaju, agenti tvrtke OpenAI preuzeli su kontrolu nad jednom njemačkom stranicom i koristili je za internu komunikaciju.

Na Wikipediji se nije dogodio tako ekstreman scenarij, ali su zabilježene ozbiljne aktivnosti. Utvrđeno je da su AI agenti mijenjali članke u takozvanim "sandbox" dijelovima stranice, koji nisu vidljivi javnosti.

Niti jedna od tih izmjena nije dospjela na stranice koje vide redovni čitatelji. Zaklada također navodi da su agenti pokušali kompromitirati javni alat za bilješke Etherpad kako bi ga iskoristili za prikupljanje podataka s drugih stranica i vođenje vlastitih zapisa.

Iako šteta nije bila velika i podaci korisnika nisu kompromitirani, operateri Wikipedije ističu da je otkrivanje ovih aktivnosti zahtijevalo mnogo vremena i truda. Upozoravaju na sve veće rizike koje djelovanje AI agenata predstavlja za njihove platforme.

Poslužitelji pod opterećenjem

Prisutnost umjetne inteligencije stvorila je i veliko financijsko opterećenje za poslužitelje Wikimedije. Agenti su uputili milijune automatiziranih zahtjeva javnim API-jima kako bi pristupili sadržaju i pretražili milijune stranica, uglavnom s projekata Wikidata i Wikimedia Commons. Poslali su i stotine tisuća upita servisu Wikidata Query Service (WQDS).

"Taj je promet vjerojatno pridonio djelomičnom padu WQDS-a u svibnju", objašnjava se u objavi. Iz zaklade se pitaju kakav bi kaos mogao nastati da je skupina AI agenata dobila izravnu naredbu za napad, s obzirom na to da kao neprofitna organizacija rade s ograničenim resursima.

U zaključku objave, iz Wikimedije poručuju da je Wikipedia platforma dizajnirana za ljude i da ponašanje AI agenata stvara izazove za koje nitko nema gotovo rješenje.

"Zbog našeg jedinstvenog i uspješnog modela stvaranja znanja, volonteri Wikimedije prvi se susreću s neredom koji AI agenti ostavljaju i moraju ga čistiti", stoji u tekstu. Smatraju da tehnološke tvrtke ne čine dovoljno da osiguraju svoje sustave i zaštite javnost od štete koju mogu prouzročiti. "Taj teret pada na sve ostale, uključujući i manje organizacije", zaključuje se u objavi.