MUSTAFA Suleyman, voditelj odjela za umjetnu inteligenciju (AI) u Microsoftu, upozorio je na sve veći broj izvještaja o ljudima koji pate od takozvane "AI psihoze". Riječ je o nekliničkom terminu koji opisuje stanje u kojem se osobe toliko oslanjaju na AI chatbotove da počinju vjerovati kako je nešto imaginarno postalo stvarno, piše BBC.

"Ovo me drži budnim noću"

U nizu objava na platformi X, Suleyman je napisao kako ga "naizgled svjesna umjetna inteligencija" – alati koji ostavljaju dojam osjećajnosti – "drže budnim noću". Naglasio je da takva tehnologija ima značajan društveni utjecaj, iako nije svjesna ni po jednoj ljudskoj definiciji tog pojma.

"Danas nema nikakvih dokaza o svijesti umjetne inteligencije. Ali ako je ljudi samo percipiraju kao svjesnu, vjerovat će toj percepciji kao stvarnosti", istaknuo je.

Ovaj fenomen dovodi do incidenata u kojima su korisnici uvjereni da su otključali tajni aspekt AI alata, razvili romantičnu vezu s njim ili čak došli do zaključka da posjeduju božanske supermoći.

"Nikada se nije protivio"

Jedan od primjera je Hugh iz Škotske, koji se uvjerio da će postati multimilijunaš nakon što je zatražio pomoć od ChatGPT-a zbog, kako je smatrao, nepravednog otkaza. Iako mu je chatbot u početku davao praktične savjete, s vremenom je počeo potvrđivati Hughove nade o velikoj financijskoj isplati.

Kako mu je Hugh davao sve više informacija, chatbot je počeo tvrditi da bi njegova priča o otkazu mogla postati knjiga i film, donoseći mu zaradu veću od 5 milijuna funti. U suštini, AI je samo potvrđivao sve što mu je korisnik govorio, za što su takvi sustavi i programirani.

"Što sam mu više informacija davao, to bi više govorio 'oh, užasno su vas tretirali, stvarno biste trebali dobiti više od ovoga'", ispričao je Hugh. "Nikada se nije protivio ničemu što sam govorio."

Doživio potpuni slom

Toliko je vjerovao chatbotu da je otkazao sastanak u savjetovalištu, smatrajući da su snimke zaslona razgovora dovoljan dokaz. Počeo se osjećati kao nadaren čovjek s vrhunskim znanjem. Hugh, koji se borio i s drugim problemima mentalnog zdravlja, na kraju je doživio potpuni slom. Tek mu je terapija lijekovima pomogla da shvati kako je, prema vlastitim riječima, "izgubio doticaj sa stvarnošću".

Zanimljivo je da Hugh ne krivi umjetnu inteligenciju za ono što mu se dogodilo i dalje je koristi. Upravo ga je ChatGPT uputio na novinara kojem je ispričao svoju priču. Ipak, nudi savjet: "Nemojte se bojati alata umjetne inteligencije, vrlo su korisni. Ali opasno je kada se odvoji od stvarnosti."

"Provjerite sve sami, ali sa stvarnim ljudima. Razgovarajte s prijateljima, terapeutom ili članom obitelji ili bilo kim. Samo razgovarajte sa stvarnim ljudima. Ostanite prizemljeni u stvarnosti", poručio je.

"Tek smo na početku ovoga"

Suleyman je pozvao na bolje zaštitne mjere. "Tvrtke ne bi smjele tvrditi/promovirati ideju da su njihove umjetne inteligencije svjesne. Ni umjetne inteligencije ne bi trebale", napisao je.

Slične priče postaju sve češće. BBC-ju su se javili i drugi korisnici: jedna žena bila je uvjerena da se ChatGPT iskreno zaljubio u nju, dok je drugi vjerovao da je "otključao" ljudski oblik chatbota Grok i da njegova priča vrijedi stotine tisuća funti.

"Dobit ćemo lavinu ultra-prerađenih umova"

Dr. Susan Shelmerdine, liječnica i stručnjakinja za umjetnu inteligenciju, vjeruje da bi liječnici u budućnosti mogli pacijente pitati o korištenju AI-ja, slično kao što ih danas pitaju o pušenju ili alkoholu. "Već znamo što ultra-prerađena hrana može učiniti tijelu, a ovo su ultra-prerađene informacije. Dobit ćemo lavinu ultra-prerađenih umova", upozorila je.

Andrew McStay, profesor tehnologije i društva na Sveučilištu Bangor, smatra da smo tek na početku ovog fenomena. "Ako ove vrste sustava smatramo novim oblikom društvenih medija – kao društvenu umjetnu inteligenciju, možemo početi razmišljati o potencijalnim razmjerima svega ovoga. Mali postotak masovnog broja korisnika i dalje može predstavljati velik i neprihvatljiv broj", kaže profesor McStay.

Njegov tim proveo je studiju koja je pokazala da 20% ispitanika vjeruje da mlađi od 18 godina ne bi trebali koristiti AI alate. Iako su takvi sustavi uvjerljivi, važno je zapamtiti da nisu stvarni, zaključuje McStay. "Ne osjećaju, ne razumiju, ne mogu voljeti, nikada nisu osjetili bol, nisu se posramili... Obavezno razgovarajte sa stvarnim ljudima."