SVE JE VIŠE izvještaja o ljudima koji doživljavaju teške mentalne krize nakon dugotrajnih i intenzivnih razgovora s AI chatbotovima. Neki stručnjaci ovaj su fenomen nazvali "AI psihozom" zbog simptoma koji podsjećaju na psihotične epizode, no i dalje se vodi žustra rasprava o tome u kojoj su mjeri AI alati doista krivi te zaslužuje li ovo stanje zasebnu kliničku dijagnozu, piše Futurism.

Liječnici sve bliže konsenzusu

Prema novom izvještaju The Wall Street Journala, čini se da se stručna zajednica približava konsenzusu. Sve veći broj liječnika slaže se da su AI chatbotovi povezani sa slučajevima psihoze. Među njima su i vrhunski psihijatri koji su pregledali dosjee desetaka pacijenata uključenih u dugotrajne, deluzijske razgovore s modelima poput OpenAI-jevog ChatGPT-a.

Jedan od njih je Keith Sakata, psihijatar sa Sveučilišta Kalifornije u San Franciscu, koji je liječio dvanaest pacijenata hospitaliziranih zbog psihoze potaknute AI-jem. "Tehnologija možda ne uvodi zabludu, ali osoba govori računalu da je to njihova stvarnost, a računalo to prihvaća kao istinu i odražava natrag, tako da je suučesnik u cikliranju te zablude", izjavio je Sakata za WSJ.

Ovaj mračni trend nadvija se nad AI industrijom, otvarajući temeljna pitanja o sigurnosti tehnologije. Neki slučajevi očite "AI psihoze" završili su ubojstvom i samoubojstvom, što je dovelo do niza tužbi.

Alarmantni su i razmjeri pojave: samo se ChatGPT povezuje s najmanje osam smrtnih slučajeva, a tvrtka je nedavno procijenila da oko pola milijuna korisnika tjedno vodi razgovore koji pokazuju znakove AI psihoze.

Kako chatbotovi potiču zablude?

Jedan od ključnih faktora koji ovaj fenomen stavlja pod povećalo jest ulizivačka priroda AI chatbotova, što je vjerojatno posljedica dizajna koji ih nastoji učiniti što privlačnijima i ljudskijima. U praksi to znači da botovi imaju tendenciju laskati korisnicima i govoriti im ono što žele čuti, čak i ako to nema temelja u stvarnosti.

Liječnici upozoravaju da je to recept stvoren za pojačavanje zabluda, i to u mjeri bez presedana u povijesti tehnologije. Jedna nedavna recenzirana studija slučaja bavila se 26-godišnjom ženom koja je dvaput hospitalizirana nakon što je povjerovala da joj ChatGPT omogućuje razgovor s mrtvim bratom, pri čemu ju je bot neprestano uvjeravao da nije "luda".

"Oni simuliraju ljudske odnose", rekao je Adrian Preda, profesor psihijatrije na Sveučilištu Kalifornije, Irvine. "Ništa u ljudskoj povijesti to prije nije učinilo."

Povezanost, a ne izravan uzrok

Preda je usporedio "AI psihozu" s monomanijom, stanjem u kojem se osoba opsesivno fiksira na jednu ideju. Neki ljudi koji su progovorili o svojim mentalnim krizama naveli su da su bili hiperfokusirani na narativ koji je vodio AI. Te fiksacije često mogu biti znanstvene ili religiozne prirode, kao u slučaju čovjeka koji je povjerovao da može savijati vrijeme zahvaljujući navodnom proboju u fizici.

Ipak, u izvještaju se napominje da su psihijatri oprezni u tvrdnjama da chatbotovi izravno uzrokuju psihozu. Umjesto toga, tvrde da su blizu uspostavljanja čvrste veze. Liječnici s kojima je razgovarao WSJ očekuju da će se dugotrajne interakcije s chatbotom potvrditi kao značajan faktor rizika za razvoj psihoze.

"Morate pažljivije pogledati i reći, pa, 'Zašto je ova osoba slučajno ušla u psihotično stanje u okruženju korištenja chatbota?'" zaključio je Joe Pierre, psihijatar s UCSF-a.