Screenshot: Psyop.tv

ČINI se da bi svijet koji smo dosad mogli vidjeti samo u SF filmovima u budućnosti mogao postati stvarnost.

Svoju su zabrinutost zbog umjetne inteligencije dosad već izražavali slavni umovi kao što su Stephen Hawking, Bill Gates ili Elon Musk, a sad im se u upozoravanju javnosti pridružio i istraživač s Oxforda, dr. Stuart Armstrong. On je u razgovoru za britanski Telegraph priznao da predviđa budućnost u kojoj strojevi koje pokreće umjetna inteligencija postanu toliko nezamjenjivi u našim životima da s vremenom ljudi postanu višak.

I smatra da bi se to moglo dogoditi već za nekoliko desetljeća: "Ljudi upravljaju budućnosti ne zato što smo najjači ili najbrži, nego zato što smo najpametniji. Kad strojevi postanu pametniji od ljudi, to je trenutak u kojem im predajemo upravljače". Armstrong predviđa strojeve koji su sposobni procesuirati toliko računalne snage i to brzinama nezamislivim ljudskom mozgu da će s vremenom stvarati globalne mreže među sobom - komunicirati među ljudskog uplitanja.

Preuzimanje kontrole, nemogućnost konkretne naredbe

U tom trenutku će ono što se naziva Generalnom umjetnom inteligencijom (AGI) (u suprotnosti s računalima koja obavljaju konkretne, limitirane zadatke, kao što su automobili bez vozača) biti u mogućnosti u potpunosti preuzeti čitave transportne sustave, nacionalne ekonomije, financijska tržišta, zdravstvene sustave, raspodjelu proizvoda...

"Sve što možete zamisliti da će ljudska rasa raditi u idućih 100 godine, postoji mogućnost da će AGI napraviti jako, jako brzo", kazao je i upozorio da, dok god predavanje manjih zadataka strojevima može biti primamljivo, u sebi sadrži sjeme našeg vlastitog uništenja, prenosi Telegraph, dok bi pokušaji ograničavanja snage takvih AGI-jeva moglo biti potpisivanje presude ljudskom rodu.

Primjerice, Armstrong upozorava da bi naizgled banalna instrukcija AGI-ju da "zaustavi ljudsku patnju" mogla biti interpretirana kao "ubij sve ljude", čime bi se uistinu zaustavila patnja svih ljudi. Nadalje, nalog kao što je "održavajte ljude sigurnima i sretnima" moglo bi se prevesti kao "zatvorite sve ljude u betonske lijesove s heroinskim infuzijama".

I iako to možda zvuči kao pretjerivanje, Armstrong tvrdi da rizik nije toliko malen da bi se mogao zanemariti.

"Postoje rizici od takvog ponašanja AI-ja", kazao je napominjući da su nijanse u ljudskom govoru vrlo podložne krivoj interpretaciji računala. "Možete im izdati naredbe i oni će se prema tome ponašati. Ali to možda neće biti ono što ste vi mislili".

Također, napomenuo je da će biti teško razaznati razvija li se stroj u benignom ili ubojitom smjeru. Tvrdi da će se AI uvijek ponašati na način koji će se činiti povoljnim za čovječanstvo, zbog čega će se činiti uslužnima i nezamjenjivima, nešto poput iPhoneove Siri, koja odgovara na pitanja i izvršava jednostavne organizacijske zadatke, sve do trenutka dok bi mogla preuzeti sve funkcije.

"Jačanjem AI-ja sve što je rješivo kognitivnim procesima, kao što je loše zdravlje, rak, depresija, dosada, postaje rješivo. A mi smo gotovo u točki stvaranja AI-ja koja je inteligentna kao čovjek", poručio je.

Što možemo napraviti

Dodao je i da je čovječanstvo trenutno u utrci da stvori "sigurnu AI" prije nego što postane prekasno.

"Planovi za sigurnu AI moraju biti razvijeni prije nego što se stvori prva opasna AI", napisao je u svojoj knjizi "Pametniji od nas: Uspon strojne inteligencije". "Industrija softvera vrijedna je milijarde dolara i jako se puno truda ulaže u AI tehnologije. Čini se nerealistično vjerovati da će se taj razvoj usporiti. Pa moramo požuriti prema udaljenoj destinaciji sigurne AI i tamo stići brzo, prije napretka računalne industrije".

Kao jedno od rješenja u industriji se spominje i učenje super računala "moralu". Nažalost, tvrdi Armstrong, ljudi su proveli tisuće godina raspravljajući o etici i moralnom ponašanju bez da su smislili jednostavan set uputa primjenjivih u svim uvjetima, koje se lako mogu slijediti.

"Jako je teško od ljudi učiti moralnom ponašanju. Oni bi bilo vrlo loši uzori za AI", zaključio je.