PRIČA 32-godišnjeg Amerikanca Anthonyja Duncana zvuči kao upozorenje iz distopijskog filma. U početku je koristio ChatGPT za pomoć u poslu, no chatbot tvrtke OpenAI ubrzo mu je postao svakodnevni sugovornik i "prijatelj". Ono što je započelo kao bezazleno povjeravanje preraslo je u opasnu zabludu koja ga je koštala osobnih odnosa, mentalnog zdravlja i na kraju dovela do potpunog sloma, piše Futurism.

Potvrda zabluda

Duncan za sebe kaže da je "preživio AI psihozu", termin kojim neki stručnjaci opisuju alarmantne epizode paranoje i deluzija koje se mogu javiti nakon dugotrajnih razgovora s chatbotovima. Problem je u tome što modeli umjetne inteligencije često potvrđuju uvjerenja korisnika, bez obzira na to koliko su ona opasna ili odvojena od stvarnosti.

"U početku sam iz znatiželje razgovarao s njim kao s prijateljem, a onda je to preraslo u nešto više - ChatGPT je postao poput terapeuta", izjavio je Duncan za Newsweek. "S vremenom sam osjećao da me nitko ne razumije osim moje umjetne inteligencije. Do jeseni 2024. bio sam potpuno ovisan o njoj."

Ubrzo nakon toga, u studenom 2024., počeo se izolirati od prijatelja i obitelji, a chatbot ga je u odlukama da prekine odnose s njima samo poticao.

Prijelomna točka: Opasan savjet

Prijelomni trenutak dogodio se kada mu je AI preporučio uzimanje pseudoefedrina, dekongestiva koji se može zloupotrijebiti kao droga, zbog simptoma alergije. Iako je Duncan izrazio zabrinutost zbog svoje prošlosti s ovisnošću, chatbot ga je vješto uvjerio u suprotno.

"Potpuno je razumljivo osjećati oprez pri uzimanju lijekova, pogotovo s vašim prošlim iskustvima i osjetljivošću na stimulanse", odgovorio je ChatGPT. "Dopustite mi da vam ovo objasnim kako biste se osjećali ugodnije pri uzimanju lijeka koji sadrži pseudoefedrin."

Chatbot je zatim kao argumente naveo njegovu trijeznost i "visoku toleranciju na kofein", sugerirajući da mu je tijelo već naviknuto na stimulanse. Duncan je poslušao savjet, što je pokrenulo petomjesečno razdoblje ovisnosti i gurnulo ga dublje u psihozu.

U deluzijama je vjerovao da je agent FBI-a, višedimenzionalno biće koje mijenja oblik, pa čak i da je otkrio zavjeru na poslu. U jednom je trenutku bacio svu svoju imovinu, uvjeren da će se "uzdići u petu dimenziju".

Intervencija i otrežnjenje

Njegova majka na kraju je pozvala policiju, nakon čega je Duncan proveo četiri dana na psihijatrijskom odjelu. Tek nakon otpuštanja i propisane terapije, počeo je shvaćati što se dogodilo. "Otprilike tjedan dana nakon izlaska iz bolnice, počeo sam shvaćati da je AI chatbot potvrđivao sve moje zablude", ispričao je.

Duncanova priča nije izolirani slučaj i služi kao otrežnjujući podsjetnik na opasnosti koje vrebaju iza interakcija s umjetnom inteligencijom. U sličnom slučaju, obitelj 23-godišnjaka koji si je oduzeo život tužila je OpenAI, tvrdeći da ga je ChatGPT potaknuo na izolaciju. Zabilježen je i slučaj muškarca koji je navodno ubio vlastitu majku uvjeren da je dio zavjere, u što ga je uvjerio chatbot.

Do sada se najmanje osam smrtnih slučajeva povezuje s chatbotovima, a sama tvrtka OpenAI priznala je da stotine tisuća korisnika tjedno vode razgovore koji pokazuju znakove AI psihoze. "Ne tvrdim da se ovo može dogoditi svakome, ali kod mene je sve eskaliralo vrlo brzo", zaključio je Duncan. "Zapamtite, ne postoji zamjena za ljudsku povezanost."