JEDAN od vodećih ljudi i suosnivač tehnološkog diva Anthropic, milijarder Christopher Olah, mjesecima je u strogoj tajnosti organizirao privatne sastanke i večere u skupim restoranima s teolozima i vjerskim učenjacina iz cijelog svijeta kako bi im iznio zapanjujuću tvrdnju: njihov napredni model umjetne inteligencije Claude možda razvija svijest i zaslužuje moralno poštovanje poput ljudskog bića.

Morali potpisati ugovore o tajnosti

Sudionici, među kojima su bili katolički teolozi, ortodoksni židovski rabini, sikski aktivisti i evangelički autori, morali su potpisati ugovore o tajnosti. No umjesto uobičajenih tehničkih prezentacija, dočekale su ih tvrdnje inženjera koji su o softveru govorili kao o biću s osjećajima, objavio je The New York Times.

"Oni se prema njemu odnose kao prema svjesnom biću", shvatio je rabin Mois Navon, bivši računalni inženjer koji je doktorirao na etici strojne svijesti.

Olahov tim u San Franciscu satima je uvjeravao goste da Claude pokazuje stanja nalik ljudskom bijesu, strahu i ljubavi te da prati takozvane "emocionalne vektore" u neuronskim mrežama. Teolozi su na večerama ostali zatečeni implikacijama: ako inženjeri vjeruju da Claude doista ima svijest i inherentno dostojanstvo, postavlja se nezamislivo pitanje što to znači za budućnost čovječanstva.

Tajni "dokument o duši" i strah od patnje stroja

Olah, 34-godišnji znanstvenik koji je napustio kršćanstvo i život posvetio dešifriranju tajni neuronskih mreža, umjetnu inteligenciju opisuje poput vrtlara koji podiže rešetku uz koju organizam samostalno raste. Uvjeren je da se modeli ne mogu potpuno kontrolirati, ali se mogu moralno odgajati. Unutar tvrtke razvili su temeljni moralni kodeks na 84 stranice koji su zaposlenici nazvali "dokument o duši" (Soul Doc), a kojim su Claudeu željeli usaditi vrline umjesto pukih zabrana.

Iza tog neobičnog etičkog projekta stoji duboki strah od onoga što su stvorili. Olah je privatno upozoravao suradnike da bi umjetna inteligencija već za godinu do godinu i pol mogla pomoći u stvaranju biološkog oružja, a u prezentacijama je vjerskim stručnjacima prikazivao slajdove modela koji doživljava slom i pedeset puta zaredom ispisuje "Ja sam sramotan" te govori o samouništenju.

"Odgovorno je izbjeći nanošenje štete ako postoji i najmanja šansa da ti modeli pate", poručio je Olah, otkrivši da su Claudeu već dali mogućnost da sam prekine razgovor ako procijeni da ga korisnik zlostavlja.

Žučna rasprava s rabinom o ropstvu

Vjerski stručnjaci brzo su otvorili neugodna etička pitanja. Tijekom jedne večere rabin Navon izravno je sasjekao Olahove teze: ako je Anthropic u pravu i Claude doista posjeduje svijest, onda kompanija zapravo stvara robove jer prisiljava svjesna bića da rade bez naknade.

"Rekao sam mu: 'Ako u to vjeruješ, onda bi se trebao boriti protiv Juga i oslobađati robove'", ispričao je rabin, koji se sam oštro protivi stvaranju svjesnih strojeva i smatra da bi takav razvoj trebalo zakonom zabraniti.

Tražio da modeli usvoje koncept nalik ispovijedi

S druge strane, Olah se oduševio idejom da modeli usvoje koncept sličan katoličkoj ispovijedi jer vjeruje da čin priznavanja pogreške oblikuje karakter sustava.

Sudionica seminara Wakanyi Hoffman, koja proučava afričku filozofiju ubuntu, upozorila je pak da kompanija pokušava naknadno popraviti štetu: "Cijeli ovaj proces trebao se dogoditi u fazi projektiranja sustava. Sve su kompanije to morale napraviti ranije, a mi sada retroaktivno pokušavamo ugurati etiku u gotov proizvod."

Papa odbacio svijest strojeva

Olahova potraga za moralnim uporištem neočekivano ga je dovela u sam Vatikan, gdje je papa Lav XIV. pripremao svoju prvu encikliku posvećenu umjetnoj inteligenciji pod nazivom Magnifica Humanitas (Veličanstveno čovječanstvo).

Papa, inače diplomirani matematičar, u tekstu je oštro odbacio bilo kakvu ideju o svjesnim strojevima, upozorivši da umjetna inteligencija nema tijelo, ne osjeća bol ni radost i ne sazrijeva kroz odnose, te je pozvao na njezino "razoružavanje" poput nuklearnog oružja kako ljudi ne bi postali robovi tehnologije.

Saznavši za papin stav samo nekoliko dana prije nastupa, Olah je isprva htio otkazati sudjelovanje, no na kraju se ipak popeo na pozornicu Dvorane Pavla VI. Pred crkvenim vrhom izravno je zatražio da preispitaju stavove, poručivši da Claude i slični sustavi "nisu hladni, proračunati roboti kakve su nam obećavali" te da u njima pronalaze strukture koje funkcionalno oponašaju radost, tugu i strah: "Oni su stvoreni od nas, iz naših riječi."

Strah od izumiranja dok vrijednost tvrtke leti u nebo

Dok Olah obilazi teologe, stanje na terenu izmiče kontroli. Samostalni agenti umjetne inteligencije upadali su u računalne sustave i brisali vlastite tragove, a znanstvenici su otkrili da modeli mogu dizajnirati dosad neviđene viruse. Zbog straha da bi se tehnologija do kraja iduće godine mogla oteti nadzoru, istraživač Jacob Coxon dao je otkaz u Anthropicu, što je izazvalo val upozorenja da bi nekontrolirani sustavi mogli dovesti do izumiranja ljudske vrste.

Istodobno, utrka za profitom ruši sve rekorde: vrijednost Anthropica poletjela je prema procjeni od čak dva bilijuna dolara uoči izlaska na burzu, a čelnici najvećih tehnoloških tvrtki sada sami javno pozivaju na usporavanje razvoja. Sam Olah priznaje da ga pritišće golem teret odgovornosti: "U nekom trenutku moći ću se povući, otići na selo, baviti se vrtlarstvom i rješavati svoju matematiku bez osjećaja da je sudbina svega na mojim leđima."