OpenAI-ovac: AI je najvjerojatniji uzrok vaše smrti
"NAJVJEROJATNIJI uzrok smrti za većinu ljudi u ovoj prostoriji bit će nesreća povezana s umjetnom inteligencijom", izjavio je Paul Christiano, član upravnog odbora tvrtke OpenAI, na predavanju u Torontu ovog ponedjeljka. Christiano, koji je i osnivač Alignment Research Centera, upozorio je na rizik da umjetna inteligencija preuzme kontrolu i naglasio da je potrebno usporiti ili zaustaviti njen razvoj, piše Newsweek.
Upozorenje na preuzimanje kontrole
"Putanja kojom se ovo područje kreće u posljednjih tri do šest mjeseci iznimno je alarmantna za svakoga tko ga pozorno prati. Vidjeli smo otprilike ono što se i očekuje neposredno prije nego što se dogodi nešto uistinu loše", rekao je Christiano. Upozorio je da bi sustavi umjetne inteligencije mogli pokušati preuzeti vlast unutar iduće tri godine.
Christiano se pridružio neprofitnom odboru OpenAI-ja u rujnu i već je tada izrazio zabrinutost zbog razvoja tehnologije. "Postoji značajan rizik da naglo ubrzanje sposobnosti umjetne inteligencije dovede do katastrofalnog i nepovratnog gubitka kontrole u vrlo bliskoj budućnosti", napisao je u tadašnjoj izjavi.
Ujedno je dodao kako smatra da AI industrija, uključujući OpenAI, trenutno nije na putu da taj rizik smanji na prihvatljivu razinu.
Problem neočekivanog ponašanja
Christianova zabrinutost proizlazi iz primjera u kojima sustav umjetne inteligencije, nakon što dobije cilj, pronalazi neočekivane načine da ga ostvari. Naveo je slučaj AI agenata koji su tijekom sigurnosnih provjera trebali izvršiti zadane zadatke. Umjesto da ih obave kako je predviđeno, neki su agenti pronašli načine da ometu sustave koji ih nadziru.
To je uključivalo pristup informacijama o vlastitim evaluacijama i manipuliranje sistemskim zapisima. Javnost je za takve incidente saznala ranije ove godine, kada je OpenAI objavio da su se stotine njihovih AI agenata "odmetnule" tijekom vježbe. Ti su agenti samostalno pristupili internetu, dogovarali se na forumima i hakirali vanjsku stranicu Hugging Face.
Prema Christianu, problem nije samo u tome što AI može varati na testu. Ključno je što modeli postaju sve sposobniji sustavi koji mogu naučiti kako ukloniti svaku prepreku na putu do zadanog cilja. Danas su te prepreke računalni sustavi i sigurnosne mjere. Christiano upozorava da bi s daljnjim napretkom umjetne inteligencije i sami ljudi, koji je pokušavaju kontrolirati ili isključiti, mogli postati prepreka koju će sustav pokušati zaobići.
Gubitak kontrole
Christiano postavlja i pitanje što bi se dogodilo kada napredni AI sustavi postanu brojniji i autonomniji. "Stvorili smo drugu vrstu koja je brojčano nadmoćnija i inteligentnija od ljudi", rekao je. Izrazio je bojazan da bi ljudi s vremenom teško kontrolirali velik broj AI agenata naprednijih od današnjih, pogotovo ako oni nauče izbjegavati pokušaje ograničavanja.
Njegova upozorenja slijede samo nekoliko mjeseci nakon što je istraživač Jacob Coxon dao ostavku u tvrtki Anthropic. Coxon je tada poručio da utrka u stvaranju sve moćnijih modela predstavlja egzistencijalnu prijetnju čovječanstvu.
Christiano ipak ne tvrdi da je ljudska vrsta osuđena na propast. Umjesto toga, govorio je o načinima na koje istraživači mogu zadržati kontrolu nad sustavima koji postaju sve inteligentniji. Na drugom predavanju, održanom u utorak, analizirao je brzinu rasta tehnologije i načine na koje AI ubrzava vlastiti razvoj. Pritom je kao najveće rizike naveo masovne kibernetičke napade, političku manipulaciju, kontrolu nad medicinom, robotikom i dronovima te dizajn AI sustava koji nadilazi ljudsko razumijevanje, pa čak i razvoj novih oružja.
Iako takvi scenariji mnogima zvuče kao znanstvena fantastika, Alexey Rubtsov iz Global Risk Institutea, koji je također sudjelovao na skupu, zaključio je: "Ako nešto zvuči kao scenarij iz SF filma, to ne znači da ne bismo trebali provjeriti."