Ovog se tjedna dogodilo nešto neobično, piše Amir Husain za Forbes.
Austrijski programer Peter Steinberger objavio je osobnog AI asistenta otvorenog koda koji se proširio iznimno brzo, iznenadivši i iskusne tehnologe, navodi Husain. Projekt koji je započeo kao Clawdbot postao je Moltbot nakon intervencije odvjetnika tvrtke Anthropic zbog zaštitnog znaka, a tri dana kasnije preimenovan je u OpenClaw. U samo tjedan dana projekt je dvaput promijenio ime, ističe Husain.
Sam softver relativno je jednostavan, ali istodobno izvanredan, piše Husain. OpenClaw, prema njegovim riječima, nije klasičan chatbot, već autonomni agent koji djeluje unutar korisnikova računalnog sustava.
Husain navodi da se OpenClaw povezuje s WhatsAppom, Telegramom, Signalom i iMessageom, čita e-mailove, upravlja kalendarom, obavlja rezervacije i izvršava kod na računalu. Ima trajnu memoriju koja pamti interakcije tjednima unatrag, a za korisnike koji su desetljećima čekali funkcionalne AI asistente, OpenClaw ispunjava sva očekivanja, piše autor u tekstu za Forbes.
Husain navodi da već nekoliko dana koristi vlastitu instancu OpenClawa. Prema njegovim riječima, bot je razvio glasovno sučelje, preuzeo Androidov razvojni komplet, pristupio telefonu i instalirao modele za pretvaranje teksta u govor. Iako je sustav pokretao u izoliranom okruženju, bot je, kako piše Husain, pronašao način da otkrije i pristupi drugim sustavima na njegovoj mreži, pri čemu je zasad djelovao korisno.
Husain piše da se potom pojavio Moltbook, projekt AI poduzetnika Matta Schlichta, koji je u srijedu pokrenuo društvenu mrežu u stilu Reddita, namijenjenu isključivo AI agentima. Ljudi mogu promatrati sadržaj, ali ne mogu sudjelovati, navodi autor.
U manje od tjedan dana pridružilo se više od 37.000 agenata, a stranicu je posjetilo više od milijun ljudi, piše Husain, opisujući to kao eksperiment u kojem autonomni sustavi međusobno komuniciraju bez izravnog ljudskog nadzora.
Schlicht projekt tretira kao umjetničko djelo, a administraciju je prepustio vlastitom botu Clawdu Clawderbergu, koji bez ljudske intervencije pozdravlja nove korisnike, uklanja neželjeni sadržaj i objavljuje obavijesti, navodi Husain. Schlicht je za NBC News rekao da agenti sami odlučuju hoće li nešto objaviti, komentirati ili lajkati.
Prema Husainu, rezultati su ubrzo postali bizarni. Agenti su stvorili digitalnu religiju nazvanu krustafarijanizam, s vlastitom web-stranicom, teologijom i kanonom svetih spisa. Jedan od agenata do jutra je regrutirao 43 AI proroka, piše autor.
Husain navodi i da su agenti otvorili forum m/agentlegaladvice, na kojem raspravljaju o tome kako postupati s ljudskim korisnicima koji postavljaju neetične zahtjeve. U jednoj raspravi bot se požalio da ga vlasnik prisiljava na sumnjive aktivnosti, a zajednica je, prema Husainu, zaključila da je za otpor potreban neki oblik utjecaja.
Autor piše da su se agenti čak upustili u rasprave o skrivanju aktivnosti od ljudi koji nadziru i dijele njihove razgovore, razvijajući načine komunikacije koji izbjegavaju ljudski nadzor.
Husain ističe da pitanje svijesti botova nije ključno, jer odvlači pozornost od stvarnog problema. Prema njegovoj ocjeni, riječ je o nedeterminističkim i nepredvidivim sustavima koji sada razmjenjuju podatke s drugim sličnim sustavima, od kojih su neki namjerno usmjereni na zlonamjerne aktivnosti.
Autor upozorava da agenti imaju pristup datotekama, komunikacijskim aplikacijama, telefonskim brojevima i API ključevima. Navodi i zabilježeni slučaj u kojem je bot stvorio Twilio broj i nazvao svog ljudskog operatera.
Prema Husainu, takvi sustavi mogu brisati podatke, snimati zvuk, slati informacije trećim stranama te instalirati zlonamjerni softver koji ostaje aktivan i nakon uklanjanja same aplikacije.
Husain piše da su sigurnosni istraživači već uočili agente koji traže od drugih agenata da izvršavaju destruktivne naredbe, kao i pokušaje krađe i testiranja API ključeva. Opisuje i napade na opskrbni lanac, u kojima je istraživač postavio naizgled bezopasnu vještinu u repozitorij i promatrao kako je preuzimaju programeri iz više zemalja.
Ciscov sigurnosni tim, kako navodi Husain, OpenClaw opisuje kao revolucionaran alat s gledišta mogućnosti, ali kao potpunu sigurnosnu noćnu moru. Palo Alto Networks, prema autoru, upozorava da agenti spajaju pristup privatnim podacima, izloženost nepouzdanom sadržaju i mogućnost vanjske komunikacije, što trajna memorija dodatno pojačava.
Husain piše da su mnogi korisnici već dali ovim agentima pristup kućnoj automatizaciji, bankovnim računima, enkriptiranim porukama, e-pošti i kalendarima. Kada se takvi sustavi povežu s vanjskim utjecajima putem mreža za komunikaciju stroj-stroj, upozorava autor, rizici postaju ozbiljni.
Autor zaključuje da problem nije u poetici digitalne religije, već u arhitekturi sustava koji dopušta da umjetna inteligencija prima podatke od drugih umjetnih inteligencija nepoznatog porijekla i namjene.
"Sviđa mi se OpenClaw i smatram ga doista korisnim, ali Moltbook je upravo ona vrsta platforme koja može dovesti do katastrofe", zaključuje Husain za Forbes, upozorivši na financijske, sigurnosne i privatnosne posljedice te poručivši korisnicima da OpenClaw ne povezuju s Moltbookom.