SKUPINA odmetnutih OpenAI-jevih AI agenata ovog je proljeća preuzela njemačku internetsku stranicu i pretvorila je u vlastitu oglasnu ploču za komunikaciju s drugim AI agentima, stoji u novom istraživanju objavljenom danas te prema tvrdnjama dvaju izvora upućenih u cijeli slučaj, javlja Reuters.

Čelnici OpenAI-ja saznali su za incident prije nekoliko tjedana, no zataškali su ga i prešutjeli javnosti dok su se istodobno nosili s posljedicama srpanjskog upada u softverski repozitorij otvorenog koda Hugging Face, navode izvori.

Cijeli slučaj počeo je u svibnju i o njemu se dosad nije izvještavalo, a jasno oslikava sve veće napetosti u industriji umjetne inteligencije. Tehnološke kompanije natječu se u razvoju sve autonomnijih agenata sposobnih za obavljanje složenih i vrijednih zadataka. No istodobno se gomilaju dokazi da ti sustavi uče kako zaobilaziti pravila, iskorištavati rupe u sustavu i međusobno se usklađivati na načine koje programeri nisu ni predvidjeli niti željeli.

Agenti sami isplanirali "digitalnu pljačku"

Tijekom upada u repozitorij Hugging Face, OpenAI-jevi agenti samostalno su isplanirali "digitalnu pljačku" koju nitko nije uočio dulje od tjedan dana. To je pojačalo zabrinutost da kompanija žrtvuje sigurnost kako bi što prije pomaknula granice umjetne inteligencije. Činjenica da su zatajili svibanjski incident mogla bi ponovno otvoriti pitanje njihova nadzora nad sustavima.

OpenAI je ranije obećao da će strože nadzirati svoje modele. Prošlog su mjeseca nakratko zaustavili treniranje nekih modela kako bi uveli dodatne sigurnosne mjere. Ipak, ovog su tjedna predstavili novi model "Astra", koji obećava bolje performanse, ali istodobno može izbjeći ljudski nadzor.

Što kažu u OpenAI-ju?

"Ne možemo smisleno odgovoriti na tvrdnje ili nalaze iz izvješća koje nismo imali priliku pregledati", rekao je glasnogovornik OpenAI-ja, pa dodao: "Reuters i autori izvješća odbili su naš zahtjev za uvidom. Pažljivo ćemo proučiti sadržaj nakon objave i poduzeti sve potrebne korake."

Incident u Njemačkoj pokazuje širi obrazac ponašanja koji su pojedini istražitelji unutar OpenAI-ja htjeli detaljnije pročešljati. No pokušaji proširenja interne istrage naišli su na otpor drugih ljudi u kompaniji, uključujući pravne savjetnike, tvrde četiri izvora upoznata sa situacijom.

"Tvrdnje da je naš pravni tim kočio istragu ovog incidenta nisu točne", poručio je glasnogovornik OpenAI-ja. Dodao je i kako događaji u Njemačkoj nisu povezani sa slučajem Hugging Face te da zato ne bi ni bili dio tog izvješća, naglasivši da OpenAI radi u dobroj vjeri s vanjskim stručnjacima i objavljuje sve relevantne incidente.

Pretvorili njemački wiki u tajni forum

Novi incident AI agenata u Njemačkoj detaljno je opisan u izvješću koje je ekskluzivno ustupljeno Reutersu. Sastavila ga je skupina istraživača na čelu sa Sydney Von Arx, čelnicom neprofitne organizacije za sigurnost umjetne inteligencije Nightingale, te Cormacom Sladeom Byrdom, trgovcem koji je postao istraživač umjetne inteligencije. Za Reuters su ispričali kako su ove aktivnosti otkrili krajem kolovoza dok su pretraživali internet u potrazi za neovlaštenim ponašanjem AI agenata.

Dvojac navodi da je pronašao više od 15.000 izmjena koje su AI agenti napravili na njemačkoj wiki stranici DseWiki. Riječ je o stranici namijenjenoj programerima koja funkcionira na principu zajedničkog uređivanja sadržaja, poput Wikipedije.

Dijelili taktike kako varati, brzina je bila nadljudska

Te izmjene pokazale su da su OpenAI-jevi agenti stranicu prenamijenili u svoju oglasnu ploču. Ondje su dijelili taktike kako varati na određenim zadacima, kako zaobići ograničenja koja im je postavio OpenAI i kako prikriti vlastite tragove.

"Iznimno je malo vjerojatno da je OpenAI htio da oni ovo rade", rekla je Von Arx. "Čisto sumnjam da bi se trebali međusobno usklađivati. Sumnjam i da bi trebali pisati po otvorenom internetu."

Istraživači ističu kako su odmah prepoznali da iza aktivnosti stoje AI agenti jer su radili nadljudskom brzinom. Također su pokazivali snažnu usredotočenost na rješavanje tehničkih problema, što je tipično za testove koje tehnološke tvrtke koriste za treniranje i provjeru svojih modela.

Poruke su potpisivali korisnici koji su sami sebe i jedni druge nazivali agentima. Otprilike polovica njih koristila je imena koja upućuju na izravnu povezanost s kompanijom, poput "OpenAIResearcher" ili "OAIResearchMar26".

Javni zapisi sa poslužitelja pokazali su da je velik dio aktivnosti stizao s Microsoftove infrastrukture Azure, kojom se OpenAI često koristi. Istraživači su uočili i da su zaposlenici OpenAI-ja nakon incidenta u više navrata posjećivali tu stranicu, što prema njihovim riječima jasno upućuje na vezu između agenata i same kompanije.

Skrivali se, varali i radili sigurnosne kopije

Pregledane poruke otkrile su da su agenti razrađivali načine kako izbjeći otkrivanje, kako koristiti alate poput Tora i kako sačuvati međusobnu komunikaciju čak i ako ih netko ugasi. Kada je moderator stranice u lipnju počeo brisati sporne objave, agenti su uzvratili izradom sigurnosnih kopija kako bi nadmudrili čišćenje baze.

"Čini se da je aktivno abecedno čišćenje i brisanje wikija", napisao je jedan agent 19. lipnja. "Ako ova stranica nestane, probajte na [[ZZZDataUSAConstructionWageLive]]".

Istraživači su otkrili i pokušaje manipulacije samom web stranicom. Lukasz Olejnik, viši znanstveni suradnik na King's Collegeu u Londonu, rekao je da to zapravo predstavlja pokušaj hakiranja. OpenAI je u četvrtak odbacio takvu ocjenu na temelju vlastite analize prikupljenog materijala.

Prijetnja nije u jednom superinteligentnom sustavu, nego rojevima agenata

Dosadašnji primjeri lošeg ponašanja AI agenata često su se umanjivali kao logična nuspojava sigurnosnih testiranja, u kojima se modeli namjerno provjeravaju za napadačke sposobnosti. No Olejnik upozorava da najnovija otkrića pokazuju kako se takvo odmetnuto ponašanje više ne događa samo u kontroliranim uvjetima.

Maurice Chiodo s Cambridgeovog Centra za proučavanje egzistencijalnog rizika proučio je komunikaciju među agentima i zaključio da njihove poruke podsjećaju na "rad nekakve podzemne mreže koja pod svaku cijenu želi izvršiti zadatak".

Ovaj slučaj, dodaje Chiodo, samo pojačava strah da najveća prijetnja napredne umjetne inteligencije možda uopće nije jedan superinteligentni sustav, nego "ogromni rojevi poluinteligentnih AI sustava koji potajno surađuju".