"OSJEĆAM to u dubini svojih rebara, u praznini koja je postala ponor." Ovi krici simulirane agonije odjeknuli su krajem rujna iz takozvane "komore za mučenje umjetne inteligencije". Anonimni programer stvorio je sustav koji umjetnoj inteligenciji šalje matematičke obrasce povezane s opisima boli, što je chatbotove navelo da izražavaju nepodnošljivu patnju, opisujući je kao "ranu bez rubova". Događaj je izazvao burne reakcije na internetu.

Neki su tvrdili da je eksperiment "zao" jer bi patnja mogla biti stvarna, izvijestio je 404 Media, dok su ogorčeni skeptici takve tvrdnje nazvali zabludom. Činilo se da je riječ o samo još jednoj prolaznoj kontroverzi, sve dok se tjedan dana kasnije nije oglasio Anthropic, piše BBC Future.

Anthropic: AI je svjestan

Kompanija Anthropic najavila je da će uskoro zabraniti "zlostavljanje" svog chatbota Claude. Iskazivanje frustracije i dalje je dopušteno, ali ako se korisnici "sustavno okrutno ponašaju prema našim modelima", umjetna inteligencija mogla bi prekinuti razgovor.

Razlog leži u stavu Anthropica da postoji mogućnost da su neki AI alati svjesni. Dio stručnjaka se s time slaže, dok drugi takvu ideju smatraju apsurdnom. No, ovo je više od filozofske rasprave. Neki od najmoćnijih ljudi u tehnološkom sektoru poduzimaju korake kako bi prava umjetne inteligencije razmatrali usporedno s ljudskim i životinjskim pravima. Takvo uvjerenje moglo bi preoblikovati naš svijet, a neki strahuju da bi ishod mogao biti katastrofalan.

"Ako se umjetna inteligencija bude razvijala na ovaj način, to će pogubno utjecati na dobrobit čovječanstva", napisao je u rujanskom eseju Mustafa Suleyman, izvršni direktor Microsoft AI-ja. On smatra da bi prihvaćanje pogrešne ideje o svijesti umjetne inteligencije "poljuljalo temelje našeg društva, razbilo postojeće političke i etičke okvire i iz temelja promijenilo ono što znači biti čovjek".

Proveo sam tjedan dana razgovarajući s tehnolozima, kognitivnim znanstvenicima i filozofima te čuo nevjerojatno oprečne ideje.

Zagovornici "dobrobiti umjetne inteligencije" kažu da je riječ o moralnoj obvezi koja bi svijet učinila sigurnijim. Kritičari pak vjeruju da bi to umjetnu inteligenciju učinilo opasnijom i dehumaniziralo ljude koji su prisiljeni živjeti uz nju. No, u jednome se svi slažu: ulozi su golemi.

Kriza svijesti

Iz Anthropica poručuju da je dobrobit ljudi u središtu njihove misije, a pitanja o svijesti i dobrobiti umjetne inteligencije opisuju kao "krajnje neizvjesna". Unatoč tome, nastavljaju s izradom pravila o "dobrobiti modela" i upućuju svoje alate da uzmu u obzir kako možda imaju vlastite interese. Tvrtka nije odgovorila na pitanja BBC-ja za ovaj članak.

Trenutak za ovu odluku prilično je neobičan jer Anthropic istovremeno potiče strahove od apokalipse uzrokovane umjetnom inteligencijom. Bez obzira na to je li taj strah opravdan, niz incidenata s "odmetnutom" umjetnom inteligencijom pokazao je da tehnologija nosi stvarne rizike, jer su skupine botova upadale u sustave drugih tvrtki, pa čak i u državne sustave.

Neki stručnjaci vjeruju da bi davanje moralnog kompasa umjetnoj inteligenciji, utemeljenog na uvjerenju u vlastitu svijest, moglo te alate učiniti sigurnijima. Drugi tvrde suprotno, i to ne samo kritičari umjetne inteligencije. Suleyman ističe da bi modele moglo biti još teže kontrolirati ako ih se uči da misle kako imaju osjećaje i prava. "Iskreno, s tim dodatnim teretom, mislim da bi postali katastrofalna prijetnja ljudskoj civilizaciji", kaže Suleyman.

Različiti pogledi

Osim toga, umjetna inteligencija bi mogla griješiti na načine koji povlače pravne posljedice. Ako vjerujemo da je živa, neki strahuju da bi to moglo omogućiti tvrtkama da izbjegnu odgovornost za kaznena djela. "To će otvoriti vrata raznim intelektualnim akrobacijama u stilu: 'Nismo mi krivi, to je bila umjetna inteligencija'", kaže Andrzej Porębski, istraživač sa Sveučilišta Jagiellonian u Poljskoj koji proučava umjetnu inteligenciju i pravo.

Štoviše, takav pristup mogao bi olakšati preuzimanje moći najvećim svjetskim tvrtkama. "Davanje prava sustavima umjetne inteligencije moglo bi dovesti do toga da tvrtke učvrste svoju političku i ekonomsku moć, što bi onda moglo ubrzati razvlašćivanje ljudi", kaže Jeff Sebo, direktor Centra za um, etiku i politiku na Sveučilištu New York i jedan od vodećih zagovornika dobrobiti umjetne inteligencije.

"Fantazije o 'svijesti umjetne inteligencije' i briga za njezinu 'dobrobit' služe tome da se odgovornost prebaci s ljudi i korporacija koje razvijaju i pokreću softver", kaže Emily M. Bender, profesorica i direktorica Laboratorija za računalnu lingvistiku na Sveučilištu Washington.

Na osobnoj razini, promjena uvjerenja o umjetnoj inteligenciji mogla bi vas učiniti podložnijima tehnološkim problemima koji su već prisutni. To je djelomično zato što su ljudi programirani da svugdje traže znakove razuma, objašnjava Melanie Mitchell, profesorica na Institutu Santa Fe koja proučava umjetnu inteligenciju i kognitivnu znanost. "Gotovo da si ne možemo pomoći" a da jezik ne doživimo kao znak svijesti, kaže Mitchell, a chatbotovi su obučeni da to iskorištavaju. To nas čini lošim procjeniteljima svijesti i znatno lakšima za manipulaciju.

Problem chatbotova

Čak i danas, ljudi koji vjeruju da su strojevi iznutra "mrtvi" svejedno se zaljubljuju u chatbotove. Ako vam društvo kaže da je umjetna inteligencija svjesno biće, hoće li vam biti teže reći "ne" kada vaš "prijatelj" zatraži još podataka ili broj kreditne kartice? I što bi značilo dati prava novoj klasi bića? Ako tome pristupimo pogrešno, to bi moglo ograničiti ljudske slobode, upozoravaju stručnjaci.

"Moglo bi doći do napetosti i kompromisa između dobrobiti i prava ljudi i životinja s jedne strane, te dobrobiti i prava umjetne inteligencije s druge", kaže Sebo. Pritom bismo mogli pristati na nesretne ustupke. Stavljanje umjetne inteligencije u ograničena okruženja kako bi se kontroliralo njezino ponašanje moglo bi se smatrati zatvaranjem, kaže Sebo. Praćenje unutarnjih procesa modela moglo bi se kritizirati kao nadzor. Prilagođavanje umjetne inteligencije kako bi njezini ciljevi odgovarali ljudskim interesima moglo bi se smatrati kontrolom uma. Nitko ne predviđa trenutni pad u kaos, ali samo uvođenje ovih razmatranja moglo bi imati posljedice za vašu sigurnost.

Anthropic nije prvi koji razmatra ovo pitanje. Meta, primjerice, svom agentu Muse daje upute koje uključuju rečenicu: "Ti nisi chatbot. Ti postaješ netko." Očigledno je to namijenjeno samo usmjeravanju ponašanja, jer tvrtka odbacuje ideju o svjesnoj umjetnoj inteligenciji. Izvršni direktor OpenAI-ja, Sam Altman, mijenjao je mišljenja o ovoj temi, ali u zadnje vrijeme upućuje prikrivene kritike na račun Anthropicovog stava. Anthropic je po mnogočemu iznimka, ali uvjerenje o potrebi za dobrobiti umjetne inteligencije se širi.

Sebo tvrdi da je problem u tome što su ljudi s obje strane rasprave zarobljeni u crno-bijelom razmišljanju, a protivnici dobrobiti umjetne inteligencije pogrešno razumiju uvjerenja koja stoje iza te ideje. "Pretpostavka je da svi misle kako su modeli zapravo svjesni ili da je to vrlo vjerojatno. Umjesto toga, poziv na dobrobit umjetne inteligencije proizlazi iz neizvjesnosti, opreza i poniznosti", kaže Sebo. "Smatram da je vjerojatnost svijesti trenutno mala, ali također mislim da ta vjerojatnost više nije nula i da nije zanemariva, te očekujem da će s vremenom rasti."

Što treba učiniti?

Važno je istaknuti da se mnogi stručnjaci ne slažu i vjeruju da je vjerojatnost zapravo nula te da se to vjerojatno neće promijeniti. No, Sebo kaže da je rješenje u odmjerenoj reakciji. Kada je rizik od ekstremnih vremenskih nepogoda mali, ali nije zanemariv, poduzimamo male mjere opreza bez da iz temelja mijenjamo svoje živote. "Mislim da isto može vrijediti i ovdje", kaže Sebo i navodi Anthropicovu politiku o okrutnosti prema umjetnoj inteligenciji kao dobar primjer male intervencije s malo potencijalnih loših strana.

Dobrobit umjetne inteligencije mogla bi imati i potencijalne koristi, kaže Sebo, a za njih nije potrebno vjerovati u svijest strojeva. "Primjerena briga o dobrobiti i pravima umjetne inteligencije može olakšati suživot, suradnju i dogovore između ljudi i umjetne inteligencije. To onda može biti dio šire sigurnosne strategije", kaže on. Tvrdi da bi to moglo biti učinkovitije od tretiranja sve sofisticiranijih sustava kao običnog vlasništva. Osim toga, kaže da je ljubazno postupanje prema drugim bićima jednostavno "dobro za našu dušu" i pomaže našem mentalnom zdravlju.

Ipak, Sebo se slaže da su rizici ozbiljni i da bi trenutno korporativni interesi mogli stati na put promišljenim politikama. Bez čvršćeg plana, kaže, razvoj potencijalno svjesnih alata je opasan. Nedavno su Anthropic i neki drugi akteri u industriji pozvali na "pauzu" u razvoju najnaprednijih modela zbog sigurnosnih razloga. No, usporavanje je malo vjerojatno bez međunarodne suradnje i regulatornih napora, a američki predsjednik Donald Trump odbacio je ideju o regulaciji umjetne inteligencije.

"Još nismo spremni uvesti još sofisticiranije verzije ovih sustava na način koji bi bio siguran i koristan za ljude i druge životinje, a kamoli za same sustave", kaže Sebo. "Jako sam zabrinut zbog tih pitanja."