ZVUČI li vam ovo poznato: tehnološka tvrtka tvrdi da je stvorila novu umjetnu inteligenciju koja je toliko moćna da je se i sama boji. Navodno je preopasna za javnu upotrebu jer bi posljedice bile katastrofalne. Srećom po nas, zasad je drže pod ključem. Samo su htjeli da to znamo. Upravo to poručuje tvrtka Anthropic o svom najnovijem modelu, Claude Mythos, za kojeg kažu da bi mogao imati posljedice koje mijenjaju svijet ako dospije u pogrešne ruke, piše BBC.

Zašto tvrtke za umjetnu inteligenciju prodaju strah?

Čudan je to način na koji bilo koja tvrtka govori o vlastitom radu. Nećete čuti McDonald's kako objavljuje da je stvorio toliko ukusan hamburger da bi bilo neetično prodavati ga javnosti. No, vodeći ljudi u industriji umjetne inteligencije redovito upozoravaju kako bi proizvodi njihove industrije mogli uništiti čovječanstvo. Zašto to rade?

Prema kritičarima, tvrtkama za umjetnu inteligenciju odgovara da smo zaokupljeni apokalipsom jer to odvraća pozornost od vrlo stvarne štete koju već nanose. Dok tehnološki lideri tvrde da nas samo upozoravaju na budućnost i da je sigurnost prioritet, drugi kažu da je posrijedi širenje straha koje napuhuje potencijal tehnologije, diže cijene dionica i potiče narativ da se regulatori ne trebaju miješati jer su jedino te tvrtke sposobne odgovorno razvijati ovu tehnologiju.

"Ako ove tehnologije prikažete kao gotovo nadnaravno opasne, to u nama stvara osjećaj nemoći, kao da smo nadjačani", kaže Shannon Vallor, profesorica etike podataka i umjetne inteligencije na Sveučilištu u Edinburghu. "Kao da se jedino možemo obratiti samim tvrtkama."

Već viđen scenarij

Ovo nije prvi put da je šef Anthropica Dario Amodei radio na alatu koji je proglašen preopasnim za javnost. Godine 2019., dok je bio na čelu OpenAI-ja, tvrtka je najavila GPT-2, znatno manje sofisticiran alat od današnjeg ChatGPT-ja, te poručila da ga ne može objaviti zbog "zabrinutosti oko zlonamjernih primjena". Nekoliko mjeseci kasnije, ipak su ga objavili.

Zanimljivo je da je izvršni direktor OpenAI-ja Sam Altman nedavno kritizirao Anthropicov "marketing temeljen na strahu", iako se i sam godinama koristi sličnim scenarijem. "AI će nas najvjerojatnije dovesti do kraja svijeta, ali u međuvremenu će stvoriti sjajne tvrtke", rekao je Altman 2015. godine. Godinama kasnije, tvrdio je da ne spava pitajući se je li "učinio nešto stvarno loše pokretanjem ChatGPT-ja".

Stotine tehnoloških lidera, uključujući Altmana, Amodeija, Billa Gatesa i Demisa Hassabisa iz Google DeepMinda, podržale su 2023. izjavu u kojoj stoji: "Ublažavanje rizika od izumiranja zbog umjetne inteligencije trebalo bi biti globalni prioritet uz druge rizike društvenih razmjera kao što su pandemije i nuklearni rat." Iste godine, moćnici poput Elona Muska potpisali su pismo pozivajući na šestomjesečnu pauzu u razvoju napredne umjetne inteligencije. Manje od šest mjeseci kasnije, Musk je najavio vlastitu AI tvrtku, xAI.

"To je samo dio obrasca neutemeljenih tvrdnji o moći", kaže Emily M. Bender, profesorica na Sveučilištu u Washingtonu. "Govore nam 'gledajte ovamo' i zanemarite uništavanje okoliša, izrabljivanje radnika i sve sustave koje narušavamo u društvu. Mi se samo trebamo brinuti da se ova stvar ne pretvori u onu zlu koja će uništiti čovječanstvo."

Je li Mythos doista takva prijetnja?

Anthropic tvrdi da je Mythos već pronašao tisuće "visokorizičnih" ranjivosti u tehnološkom okruženju, nadmašujući ljudske stručnjake. No, neki stručnjaci izražavaju znatne sumnje u te tvrdnje. Heidy Khlaaf, glavna znanstvenica za umjetnu inteligenciju na Institutu AI Now, provela je karijeru gradeći alate za analizu koda za koje Anthropic tvrdi da ih je nadmašio.

Khlaaf kaže da je najveći upitnik nedostatak podataka o stopi lažno pozitivnih rezultata - industrijski standard koji pokazuje koliko često sigurnosni alat označava nešto što nije stvarni problem. "To je ključni pokazatelj korisnosti alata", kaže Khlaaf. Anthropic to nije spomenuo niti je odgovorio na pitanje o tome. Također, tvrtka nije usporedila Mythos s postojećim alatima na koje se sigurnosni inženjeri oslanjaju desetljećima.

Sve ovo ne znači da je prijetnja izmišljena. Alati umjetne inteligencije doista su pogodni za skeniranje golemih baza koda. No, Khlaaf ostaje skeptična prema tvrdnjama Anthropica bez dokaza koji bi ih potkrijepili. "Mislim da ima mnogo pukotina u narativu da je Mythos svemoćan i da ga zato ne možemo objaviti", zaključuje.

Od apokalipse do profita

Sprječavanje kraja svijeta razlog je zašto OpenAI i Anthropic kažu da uopće postoje. OpenAI je osnovan kao neprofitna organizacija s ciljem sigurnog razvoja umjetne inteligencije, dok je Anthropic nastao izdvajanjem grupe iz OpenAI-ja koja je smatrala da njihov stari poslodavac nije dovoljno posvećen sigurnosti. Danas obje organizacije teže izlasku na burzu.

"Ako želite razumjeti kako će se neka organizacija, pogotovo korporacija, ponašati, pogledajte njezine poticaje", kaže profesorica Vallor. U međuvremenu, dok se raspravlja o hipotetskoj apokalipsi, stvarni problemi se gomilaju: primjena AI-ja u zdravstvu unatoč rizicima od pogrešnih dijagnoza, golemi utjecaj podatkovnih centara na okoliš, navodna veza s mentalnim problemima kod korisnika i nezaustavljivo širenje deepfake sadržaja.

Tvrtke za umjetnu inteligenciju tvrde da ove probleme shvaćaju ozbiljno. No, postoji razlog zašto dižu uzbunu samo zbog apokalipse, kaže Vallor. Ako bi umjetna inteligencija mogla uništiti društvo, ovi drugi problemi čine se manje značajnima. "Strategija je uspjela. Govor o tome da bi njihovi proizvodi mogli okončati svijet nije naštetio tim tvrtkama. Dapače, čini se da su jedini kojima se možemo obratiti za zaštitu upravo te iste tvrtke."

Demoni ili spasitelji?

Gotovo u istom dahu, isti ljudi koji upozoravaju na uništenje obećavaju i spasenje. Altman predviđa "zapanjujuće trijumfe" poput rješavanja klimatskih promjena, dok Amodei obećava "zemlju genija u podatkovnom centru". Utopija i apokalipsa samo su dvije strane iste medalje, smatra Vallor.

"U oba slučaja, razmjeri su preveliki i mitski da bi se s njima mogli nositi alati poput regulacije, upravljanja ili sudskog prava", kaže ona. "To navodi ljude da vjeruju da im preostaje samo sjediti i čekati hoće li se ove tehnologije pokazati kao demoni koji uništavaju civilizaciju ili mesije koji donose utopiju."

No, to nisu bogovi, već proizvodi koje su stvorile tvrtke radi profita, ističe Vallor. "Svaka tehnologija, osim ove, čak i nuklearno oružje, regulirana je. Ni u jednom drugom slučaju nismo dopustili da nas ovi narativi navedu na pomisao da su to sile izvan ljudske kontrole. Ništa u vezi s njima nije neupravljivo. Osim ako ne odlučimo da ih nećemo upravljati." Teoretski je moguće da će umjetna inteligencija zavladati svijetom, ali vrijedi se zapitati zvuči li ta ideja poznato. Nismo li do sada svi trebali živjeti u Zuckerbergovom metaverzumu? Nije li Bitcoin trebao zamijeniti sav novac? Možda će se sve to još uvijek dogoditi. A možda i neće.