Foto: FAH, 123rf

CENTAR za proučavanje globalnih rizika u glavnim je crtama opisao najveće prijetnje Zemlji i vjerojatnost da se dogode u naše vrijeme. Popis koji za Wired donosi Richard Benson u nastavku prenosimo u nastavku.

"Čuvari Zemlje su tim učenjaka koji rade na zaštiti planeta od globalnih opasnosti.
Tim, sastavljen od visoko obrazovanih učenjaka, odvjetnika, znanstvenika i filozofa, sačinjava Centar za proučavanje globalnih rizika (CSER, poznat kao "cezar") i Leverhulmeov centar za budućnost inteligencije (Leverhulme Centre for the Future of Intelligence).

U vrijeme globalnih prijetnji, stručnjaci se susreću kako bi procijenili koje su najveće opasnosti koje prijete Zemlji i što se može učiniti kako bi se civilizacija spasila od apokalipse koja je sve bliže.

Ispod su navedeni rizici za koje tim vjeruje da su najopasniji. Tim je pripremio i plan za svaki od njih".

1. Umjetna inteligencija preuzima svijet.

"Strojevi koji razvijaju inteligenciju koja je superiorna ljudskoj te koja je neovisna od ljudi jedna je od mogućnosti koje najviše zabrinjavaju zajednicu za procjenu globalnog rizika.

Ako doživimo brzinu promjene poput onih tijekom industrijske i agrikulturne revolucije, umjetna inteligencija na nas neće uopće obratiti pozornost. Predviđa se da će računala postići 90 % ljudske razine inteligencije do 2075. godine.

Drugi je razlog za oprez, kako navodi Tallin, suosnivač organizacije Future of Life Institute (Institut za budućnost života - FHI), da opasnost od UI-ja povećava sve ostale rizike. Drugim riječima, postoji opasnost da inteligentni roboti polude i unište okoliš, ili prouzroče nuklearnu zimu.

Ako možete zamisliti pojedinačne lako obradive rizike, velik broj njih zapravo i nisu rizici jer je moguće poduzeti preventivne mjere. Izazov je zamisliti nezamislivo i nositi se s tim.

Istraživanja u ovome području kreću se od filozofskih (Bismo li trebali uskladiti moralne vrijednosti UI-ja s ljudskim? Koje su tada naše moralne vrijednosti?) do izravnih i praktičnih (kako bi se točno trebalo regulirati autonomno naoružanje?).

Tu ima i dosta spornih područja. Neki istražitelji UI-ja tvrde da to ne predstavlja globalnu prijetnju. Argument ovoga tima nije da to predstavlja prijetnju, nego da bi je moglo predstavljati i stoga se nalazi visoko na njihovu popisu opasnosti.

Vjerojatan datum događaja: 2075. godina

Prioritet globalnog rizika: vrlo visok

2. Sintetičko bioinženjerstvo postaje prijetnja čovječanstvu

Uz UI, sintetička biologija jedna je od dvije globalne prijetnje koje se najviše proučavaju. To je područje privuklo dodatnu pozornost spornim pokusima "stjecanja funkcije". Oni se odnose na ispitivanje poznatih patogena kojima se dodaju rizične funkcije. Na primjer, 2011. su godine  virolozi Ron Fouchier i Yoshihiro Kawaoka stvorili soj virusa ptičje gripe koji se može prenositi među tvorovima. To se napravilo kako bi se bolje razumjeli uvjeti u kojima bi virus mogao razviti prenosivost u divljini. Takvi pokusi mogu spriječiti određene rizike, ali i stvoriti značajno veći jer bi modificirani organizam mogao pobjeći iz laboratorija i prouzročiti globalnu pandemiju.

Ovdje je posebno visok rizik jer se virus sam umnožava. Dok se nuklearna eksplozija zbiva na jednome mjestu, u našemu svijetu koji je uvelike povezan, sintetički neizlječivi virus mogao bi se proširiti po planetu za nekoliko dana. U prošlosti su prirodne pandemije kao što je crna smrt pobile milijune i utjecale na ukupne globalne promjene. U 21. stoljeću napredna bi biotehnologija mogla stvoriti nešto pokraj čega bi se kuga doimala poput malo jače prehlade.

FHI je proučavao na koje bi sve načine ti virusi mogli pobjeći iz kontroliranih uvjeta. Jedna je mogućnost nezadovoljni pojedinac, možda zaposlenik u laboratoriju, koji bi mogao stvoriti ili ukrasti virus i putovati svijetom te ga ispuštati.

Istraživač i pisac Anders Sandberg radi na istraživanju koje ispituje motive ljudi koji poput bondovskih zločinaca žele uništiti čovječanstvo. "To je zapravo malo vjerojatno jer relativno mali broj ljudi to želi raditi. Postoji vrlo malo izvornog materijala", kaže Sandberg. To ga je navelo na analizu dosega do kojeg bi religije i kultovi mogli kažnjavati masovna ubojstva (većina ih to ne radi, prema Sandbergu).

Kada je CSER proveo slično istraživanje, to je vodilo do važnoga praktičnoga suvremenoga uvida: biotehnološki laboratoriji ne provode psihološko profiliranje zaposlenika.

Sandberg sumnja da bi zbog različitih uvjeta koji bi se morali poklopiti, scenarij "jedne osobe" puno manje vjerojatan od "nezadovoljnog postdoktoranda ili laboratorijske nesreće zbog štednje biotehnološkoga startupa".

Vjerojatan datum događaja: Danas

Prioritet: vrlo visok

3. Oružje pod utjecajem UI-ja preuzima kontrolu i stvara vojsku

Južna Koreja trenutno održava granicu sa sjevernim susjedom pomoću Samsungovih robota-stražara koji mogu ispaljivati metke, tako da se može sa sigurnošću tvrditi da se autonomno oružje već koristi. Lako je zamisliti buduće inačice koje bi, na primjer, mogle koristiti softver za raspoznavanje lica kako bi lovile mete i tehnologiju 3D-printanja koja bi olakšala gomilanje oružja za bilo kojeg kleptokrata ili terorista.

No, tu postoji paradoks. Hladnoratovska utrka u nuklearnome naoružanju odnosila se na države koje su gradile velike bombe (područja bacanja bombi moralo se povećati jer je tehnologija za ciljanje bila toliko loša) i na ljudske trupe koje su patile i ponašale se iracionalno. Robotičko oružje omogućava precizno gađanje i vojnici-roboti  ne bi pretrpjeli štetu niti plašili lokalno stanovništvo..

No bili bi i toliko mali i jeftini da bi im se vlasništvo odvojilo od države. Najstrašniji je distopijski scenarij taj da bi se vojna moć toliko osamostalila neovisno o veličini države da bi se, prema Tallinu, "moglo dogoditi da pet ljudi s dva kamiona sićušnog oružja pokore čitave gradove." Moguće je zamisliti svijet u kojemu se probudite ujutro i doznate da je uništen još jedan niz gradova i da nitko sa sigurnošću ne zna tko stoji iza napada".

Stuart Russell, profesor informatike na Berkeleyju, zabrinut je da bi se mentalitet utrke u naoružavanju mogao proširiti prije nego razumna rasprava i dogovaranje sporazuma dovedu do UN-ove zabrane autonomnoga oružja - o čemu se trenutno raspravlja.

Ako vam se to čini strašnim, uzmite u obzir da bi nova utrka u naoružavanju mogla ubrzati razvoj rizične UI, uključujući i strojeve sposobne za nabavu oružja.

Vjerojatan datum događaja: Bilo kada

Prioritet: Nizak

4. Nuklearni sukob dovodi do kraha civilizacije.

Iako se o nuklearnim sukobima sada raspravlja puno rjeđe nego tijekom hladnoga rata, strahovito velika količina nuklearnoga oružja postoji još uvijek, i postoje ozbiljne napetosti - u Kašmiru, Tajvanu i Ukrajini, na primjer, između zemalja s nuklearnim oružjem.

Institut za istraživanje rizika od globalne katastrofe (The Global Catastrophic Risk Institute, GCRI) pozorno proučava to pitanje, pridajući posebnu pozornost mogućnosti nenamjernoga rata između Rusije i Sjedinjenih Američkih Država. Te su države zajedno u vlasništvu 90 % svjetskoga nuklearnoga arsenala.

 Slučajni se rat dogodi kada jedna država pogrešno procijeni lažni alarm kao pravi napad i osveti se pravim prvim udarcem. Za 90 % scenarija koje je GCRI proučavao, godišnja je vjerojatnost takve pogrešne procjene između  0.07 and 0.00001. Vjerojatnost od 0.07 znači da bi se, logično, slučajni rat mogao dogoditi u prosjeku svakih 14 godina.

Radijacija od nuklearnih napada nije nužno prijetnja za cijelo čovječanstvo, samo za dijelove koji imaju tu nesreću da pripadaju ciljanim područjima. Rizik dolazi od nuklearne zime koja se može dogoditi ako bombardiranje dovoljno gradova (oko 100) pošalje oblak piljevine u stratosferu, blokirajući Sunčevu toplinu i smanjujući temperaturu Zemlje. (Pridjev "nuklearne" ovdje nije najprikladniji izraz jer to može prouzročiti bilo kakva eksplozija ako je dovoljno jaka. Neki znanstvenici tvrde da i šumski požari već stvaraju male "zime" koje snižavaju Zemljinu temperaturu za stupanj ili dva).

Nastali pad temperature mogao bi smanjiti proizvodnju hrane na pogođenim područjima. Ako bi se to dogodilo u SAD-u, Rusiji i Europi, smanjenje nabave hrane moglo bi biti dovoljno da prouzroči urušavanje preostalih netaknutih društava diljem svijeta i tako dovesti do kraja civilizacije.

Vjerojatan datum događaja: bilo kada

Prioritet: nizak do srednji

5. Ekstremne promjene u klimi dovode do urušavanja infrastrukture

Moglo bi vas iznenaditi da se klimatske promjene ne svrstavaju u hitne probleme. Na primjer, Institut za budućnost čovječanstva (Future of Humanity Institute, FHI) prije je odbijao baviti se time jer je to "premali problem", prema Sandbergu. To je djelomično zbog toga što postoji velik broj drugih istraživača koji se bave tim pitanjem i zbog toga što je opće poznato da su klimatske promjene riskantne - ali i zato što, paradoksalno, ovdje postoji i previše nepoznanica.

 Moguće je da će se u ovome stoljeću izumiti tehnologija koja će popraviti klimatske promjene", kaže Sandberg. "Ali tada bismo mogli dobiti i tehnologiju koja će to znatno pogoršati. Ne znamo koliko će se temperatura promijeniti kao rezultat ljudske djelatnosti, stoga je to zapravo vrlo teško predvidjeti".

Velik dio potencijalno katastrofalnih učinaka koje se obično povezuje s klimatskim promjenama ne zanima toliko istraživače koji proučavaju globalne prijetnje. No najveći rizik leži u potencijalu da one pokrenu urušavanje ljudske i prirodne infrastrukture - na primjer, vrsta koja izumire i uzrokuje urušavanje ekosustava domino efektom. Drugim riječima, ono što nas može uništiti pandemija je ili nuklearni rat zbog resursa koji nestaju.

Takva je vrsta domino efekta poznata kao sistemski rizik, što je trenutno predmet zajedničkoga istraživanja koje provode Sandberg i GCRI u New Yorku.

Vjerojatan datum događaja: bilo kada

Prioritet: nizak do srednji

6. Udarac asteroida uništava sve što diše

Zemlju bi stalno udarali mali asteroidi da nema atmosfere u kojoj izgara sve uže od deset metara u promjeru.  To je praktično jer čak i kamen od deset metara u promjeru nakupi kinetičku energiju jednaku nuklearnoj bombi u Hirošimi.  Asteroid ili komet u promjeru širi od deset metara svakih tisuću godinu jedan ili dva puta pogodi planet.

 Svakih milijun godina asteroid veličine barem jedan kilometar također pogodi Zemlju, što može biti dovoljno da utječe na klimu i prouzroči poljoprivrednu štetu te tako dovede stanovništvo u nevolju.

Stvarno ozbiljni udarci koji bi mogli dovesti do životne opasnosti, kao što je bio onaj u Chicxulubu širok 180 km, koji je izbrisao dinosaure prije 66 milijuna godina, dogode se svakih 50 do 100 milijuna godina. To bi moglo biti dovoljno za zabrinutost, ali umiruje znati da a) astronomi pažljivo prate veće objekte koji bi mogli predstavljati opasnost za Zemlju, i b) postoji cijela interdisciplinarna zajednica koja surađuje kako bi otkrila što treba učiniti ako se previše približe. ("To je zapravo prilično izvanredna zajednica", kaže Sandberg.)
Astronomi traže asteroide, matematičari izračunavaju njihove orbite, geofizičari razmišljaju o udarcima i posljedicama i svemirski inženjeri rade na najboljim načinima za odbiti ih.

 Moguće taktike uključuju: obojiti asteroid u bijelo kako bi ga odbijanja radijacije solarnoga vjetra istjerala iz orbite; odgurati ga pomoću gravitacijske letjelice; zabiti letjelicu u nj; uporaba lasera i termonuklearnih bombi.

Istraživači globalnih prijetnji najvjerojatnije neće istraživati asteroide koji prijete Zemlji. Umjesto toga, mogli bi tražiti specijaliste u pandemiji ili biosigurnosti da ispitaju domino učinak udarca.

Vjerojatan datum događaja: od 50 do 100 milijuna godina

Prioritet (u 2017. godini): nizak

7. Uhvaćeni smo u nečemu što ne razumijemo

Kako bi točno procijenili neke od složenih rizika, istraživači globalnih prijetnji moraju računati i na ograničenja o tome što im je poznato. Na ezoteričnome rubu takvoga posla leže mogućnosti da smo daleko od najinteligentnijih bića u svemiru (barem dok nas ne preuzmu računala) i da smo zapravo pijuni uhvaćeni u nečemu što ne razumijemo.

Hipoteza simulacije pretpostavka je da su ljudi, sa svom svojom povijesti i kulturom, samo eksperiment ili igračka većeg bića, kako je to prikazano u filmu "Trumanov show". Bostrom s FHI-ja kaže da se ovakav način razmišljanja uzima u obzir jer to "utječe na uobičajena uvjerenja o budućnosti i o našemu mjestu na svijetu".

Slično je i s Boltzmannovim konceptom o mozgu, nazvanom prema fizičaru Ludwigu Boltzmannu. U osnovi to je ideja da su ljudi nasumična nakupina tvari u raznolikom svemiru u kojemu postoji mnogo više stvari nego što ćemo ikad znati. Kvantna mehanika predlaže da najmanje količine energije mogu povremeno stvoriti molekulu tvari. Iz toga slijedi da, s dovoljno vremena, moglo bi se nasumično stvoriti mozak koji je svjestan sebe, ali ne bi nužno shvaćao ništa izvan vlastitoga postojanja.

Neki se zagovornici služe ovim konceptom kako bi objasnili zašto se čini da je svemir tako dobro uređen. Drugi se pak znanstvenici i filozofi trude dokazati zašto Boltzmannov mozak ne može postojati. "Malo ljudi uzima Boltzmannove mozgove za ozbiljno", kaže Sandberg, "ali to je vrlo naporno pitanje". Rijetko ih se analizira kao globalnu opasnost, djelomično zato što se u vezi s njima ne može ništa učiniti čak i kad bi doista postojali, i kako Sandberg dodaje, "u danu ipak postoji samo 24 sata".

Vjerojatan datum događaja: ne zna se

Prioritet: vrlo nizak

8. Nedostatak hrane uzrokuje masovno izgladnjivanje

Za globalno stanovništvo predviđa se da će narasti na 9,6 milijardi do 2050. godine. Neki promatrači tvrde da ćemo, kako bismo izbjegli masovno izgladnjivanje, morati povećati proizvodnju hrane za 70 % u malo više od 30 godina. Izazov je da se napredak u tehnikama proizvodnje hrane, koji je omogućio ljudima da idu ukorak s rastom stanovništva od 1950. godine, uvelike oslanjao na fosilna goriva. K tome, površina obradive zemlje uvelike se smanjila zbog čimbenika koji uključuju eroziju površinskog sloja zemlje.

Postoje i rizici povezani izravno s podrijetlom hrane koju jedemo. Općenito se prihvaća uvjerenje da će ljudi morati jesti manje mesa, a više sjemenarki. No, dok je napredak u razvoju žitarica proizveo varijante koje uspijevaju u negostoljubivim uvjetima, doveo je i do veće osjetljivosti na bolesti. Velike površine pšenice, trećeg najpopularnijeg usjeva na svijetu, mogle bi se izbrisati fungalnim infekcijama, na primjer: sintetički virusi mogu samo povećati rizik od katastrofe.

Stručnjaci su predvidjeli da će se posljedice osjetiti kao oštri porasti cijena oko 2020. godine, s time da će situacija postati kritična u zemljama u razvoju do sredine stoljeća.
Tipično bi nedostatak hrane vodio do pobuna i političke nestabilnosti, no iznenađuje koliko se malo toga napravilo kako bi se napravio model nastaloga društvenoga raspada. "Jedna je od CSER-ovih ambicija", kaže Shahar Avin, znanstveni suradnik, "dobiti cijelu sliku tih katastrofa koja uključuje tehnologiju, medije, ekosustave i udarce na zdravlje".

Vjerojatan datum događaja: 2050. godina

Prioritet: visok

9. Pravi vakuum usisava svemir brzinom svjetlosti

U ezoteričnome svijetu analize globalnih opasnosti postoji točka u kojoj se tehnički ozbiljni scenariji sudnjeg dana počinju spajati sa znanstvenom fantastikom. Nesreće ubrzivača čestica takav su primjer.

To je složeno područje. Proteklih deset godina postoji uvjerenje da sudari čestica u ubrzivačima mogu pokrenuti reakciju koja bi promijenila sastav sve tvari i zakona fizike. Nedavno su neki znanstvenici tvrdili da je ono za što smo prije mislili da su vakuumi zapravo sadržavalo čestice i da svemir sadrži "pravi vakuum" potpunog ništavila. "Pravi vakuum nadalje ima potencijal usisati svemir brzinom svjetlosti u procesu nazvanom raspad vakuuma. To ne radi zato što se nalazi u metastabilnome stanju - ali ubrzivači čestica imaju potencijal poremetiti to stanje i tako ga potaknuti da usisa sve i izbriše naš svijet. Neki se fizičari ne slažu s time i tvrde da se Zemlja uvijek nosila s kozmičkim zrakama koje potencijalno imaju više snage promijeniti tvar od ubrzivača. Zemlja je još uvijek ovdje, stoga je zasigurno dovoljno čvrsta.

No taj argument nije uvjerio FHI. Bostromova doktorska disertacija istraživala je kako izračune vjerojatnosti može poremetiti naša perspektiva. Njegovi istraživači tvrde da se naše postojanje ne može koristiti da se dokaže nemogućnost takve vrste raspada jer su milijuni drugih Zemalja mogli biti uništeni u prošlosti.

Ovo je dovelo do znanstvenoga rada koji proučava rizik da su drugi znanstveni radovi u krivu. Otkrio je da bi ih jedan posto trebalo povući zbog pogrešaka u izračunu i modeliranju. "Stoga bi vas i potvrdni rad trebao uvjeriti samo 99 % da rizik ne postoji", Sandberg kaže. "1 % uvijek ostaje nepoznato".

Vjerojatan datum događaja: sada

Prioritet: vrlo nizak

10. Vođa tiranin potkopava globalnu stabilnost

Jutro nakon što je Donald Trump izabran za predsjednika SAD-a, osoblje na CSER-u održalo je grupni sastanak kako bi raspravljali predstavlja li taj izbor globalnu prijetnju.  Održali su sličan sastanak i nakon referenduma u Europskoj uniji.

Takvi događaji mogu imati značajne posljedice za čovječanstvo, posebno za našu sposobnost za globalnu koordinaciju kako bismo se nosili s problemima poput promjene i kako bismo izbjegli potencijalno katastrofalne sukobe. Čak su i važniji načini na koje ovakvi događaji utječu na donošenje i objavu političkih odluka, kao što je uspon "postfaktualizma", kako to tvrdi Weitzdörfer. "S Trumpom se odmičemo od svijeta u kojemu se znanstveni dokazi mjere u debatama", kaže on. "To utječe na našu sposobnost da se nosimo s bilo kakvim prijetnjama. Pogoršava naš način upravljanja i povećava rizik".

Neki politički promatrači u zajednici proučavanja globalnih opasnosti, kao što je CSER-ov Simon Beard, tvrde da je ideja da SAD kao cjelina sada predstavlja veću prijetnju globalnoj stabilnosti malo pretjerana jer je Hillary zadobila naklonost javnosti. Mogla bi postojati i mala korist, barem za proučavanje globalnih prijetnji kao disciplinu.
"Umjetna inteligencija privlači mnogo pažnje", kaže Weitzdörfer.

"Ali sa situacijom s Trumpom sve većem broju ljudi počinje imati  smisla da postoje i drugi ozbiljni rizici o kojima trebamo razmišljati".

Vjerojatan datum događaja: sada

Prioritet: srednji