MARK Zuckerberg navodno je još 2014. godine započeo radove na Koolau Ranchu, svom prostranom imanju od 1400 hektara na havajskom otoku Kauai. Projekt bi trebao uključivati i sklonište s vlastitim zalihama energije i hrane, iako je stolarima i električarima koji su radili na lokaciji bilo zabranjeno govoriti o tome putem ugovora o povjerljivosti. Cijeli je projekt od pogleda s obližnje ceste zaklanjao zid visok gotovo dva metra, piše BBC.

Upitan prošle godine gradi li bunker za smak svijeta, osnivač Facebooka kratko je odgovorio: "ne". Objasnio je da je podzemni prostor od oko 465 četvornih metara "samo malo sklonište, to je kao podrum". To ipak nije zaustavilo nagađanja, kao ni njegova odluka o kupnji 11 nekretnina u četvrti Crescent Park u Palo Altu u Kaliforniji, gdje je navodno dodao podzemni prostor od 650 četvornih metara. Iako se u njegovim građevinskim dozvolama spominju podrumi, neki susjedi to nazivaju bunkerom.

Slične se priče vežu i uz druge tehnološke lidere, od kojih su neki navodno kupovali zemljišta s podzemnim prostorima, spremnima za prenamjenu u luksuzne višemilijunske bunkere. Reid Hoffman, suosnivač LinkedIna, govorio je o "osiguranju od apokalipse", tvrdeći da ga ima otprilike polovica superbogatih, pri čemu je Novi Zeland popularna destinacija. Postavlja se pitanje - pripremaju li se oni doista za rat, posljedice klimatskih promjena ili neku drugu katastrofu o kojoj mi ostali još ne znamo?

Posljednjih godina, napredak umjetne inteligencije (AI) samo je pridodao tom popisu potencijalnih prijetnji. Mnogi su duboko zabrinuti zbog brzine kojom se tehnologija razvija. Među njima je navodno i Ilya Sutskever, glavni znanstvenik i suosnivač tvrtke OpenAI. Do ljeta 2023. godine postajao je sve uvjereniji da su znanstvenici na rubu razvoja opće umjetne inteligencije (AGI) - točke u kojoj strojevi dostižu ljudsku inteligenciju. Navodno je predložio da tvrtka iskopa podzemno sklonište za svoje vrhunske znanstvenike prije nego što se takva tehnologija pusti u svijet. "Definitivno ćemo izgraditi bunker prije nego što objavimo AGI", navodno je rekao.

To baca svjetlo na neobičnu činjenicu: mnogi vodeći računalni znanstvenici i tehnološki lideri, koji naporno rade na razvoju iznimno inteligentnog AI-ja, istovremeno se duboko boje onoga što bi ta tehnologija jednog dana mogla učiniti.

"AGI će doći prije nego što mislimo"

Tehnološki lideri tvrde da je AGI neizbježan. Šef OpenAI-ja Sam Altman rekao je u prosincu 2024. da će doći "prije nego što većina ljudi na svijetu misli". Sir Demis Hassabis, suosnivač DeepMinda, predvidio je dolazak AGI-ja u sljedećih pet do deset godina, dok je osnivač Anthropica Dario Amodei prošle godine napisao da bi "moćna AI" mogla biti s nama već 2026. godine.

Drugi su, pak, sumnjičavi. "Znanstvena zajednica kaže da je AI tehnologija nevjerojatna, ali nije ni blizu ljudskoj inteligenciji", ističe Dame Wendy Hall, profesorica računalnih znanosti na Sveučilištu Southampton. Slaže se i Babak Hodjat, glavni tehnolog u tvrtki Cognizant, koji kaže da bi za to bio potreban niz "temeljnih proboja". Malo je vjerojatno da će se AGI pojaviti u jednom trenutku; radi se o tehnologiji koja se brzo razvija. Ipak, ideja uzbuđuje Silicijsku dolinu jer se smatra pretečom nečeg još naprednijeg: ASI-ja, ili umjetne superinteligencije, koja nadmašuje ljudsku.

Utopija ili distopija?

Zagovornici AGI-ja i ASI-ja gotovo su evanđeoski nastrojeni prema njihovim prednostima. Tvrde da će pronaći lijekove za smrtonosne bolesti, riješiti klimatske promjene i izumiti neiscrpne zalihe čiste energije. Elon Musk je čak tvrdio da bi superinteligentna AI mogla uvesti eru "univerzalno visokih prihoda". "Svatko će imati najbolju medicinsku skrb, hranu, kućni prijevoz i sve ostalo. Održivo obilje", rekao je.

Naravno, postoji i zastrašujuća strana, piše BBC. Što ako tehnologiju otmu teroristi i koriste je kao oružje? Ili ako sama odluči da je čovječanstvo problem i uništi nas? "Ako je pametnija od vas, onda je moramo držati pod kontrolom. Moramo je moći isključiti", upozorio je Tim Berners Lee, tvorac World Wide Weba.

Vlade poduzimaju određene korake. U SAD-u je tadašnji predsjednik Biden 2023. donio izvršnu uredbu koja zahtijeva od AI tvrtki dijeljenje rezultata sigurnosnih testova s vladom. U Ujedinjenom Kraljevstvu osnovan je Institut za sigurnost AI-ja kako bi se bolje razumjeli rizici.

Je li sve to alarmistička besmislica?

Neil Lawrence, profesor strojnog učenja na Sveučilištu Cambridge, smatra da je cijela rasprava besmislena. "Pojam opće umjetne inteligencije je apsurdan kao i pojam 'umjetnog općeg vozila'", tvrdi on. Za njega je razgovor o AGI-ju distrakcija od stvarnih problema. "Velika briga je što smo toliko uvučeni u narative velikih tehnoloških tvrtki o AGI-ju da propuštamo načine na koje trebamo poboljšati stvari za ljude." Trenutni AI alati dobri su u prepoznavanju obrazaca, ali ne "osjećaju", bez obzira na to koliko njihovi odgovori bili uvjerljivi.

Vince Lynch, izvršni direktor tvrtke IV.AI, također je oprezan. "To je sjajan marketing. Ako ste tvrtka koja gradi najpametniju stvar koja je ikada postojala, ljudi će vam htjeti dati novac", kaže on, dodajući da AGI nije nešto što je udaljeno samo dvije godine.

Inteligencija bez svijesti

Na neki način, AI je već nadmašila ljudski mozak u određenim zadacima. Generativni AI alat može u jednom trenutku biti stručnjak za srednjovjekovnu povijest, a u sljedećem rješavati složene matematičke jednadžbe. Ipak, biološki ljudski mozak i dalje pobjeđuje. S oko 86 milijardi neurona i 600 bilijuna sinapsi, daleko je složeniji od umjetnih ekvivalenata.

"LLM-ovi (veliki jezični modeli) nemaju metakogniciju, što znači da ne znaju što znaju. Čini se da ljudi imaju introspektivnu sposobnost, ponekad nazvanu sviješću, koja im omogućuje da znaju što znaju", objašnjava Hodjat. To je temeljni dio ljudske inteligencije - i onaj koji tek treba biti repliciran u laboratoriju.