NASLJEDNICI 83-godišnje žene iz Connecticuta podigli su tužbu za protupravnu smrt protiv tvrtki OpenAI, kreatora AI programa ChatGPT, i njihovog poslovnog partnera Microsofta. U tužbi se navodi da je chatbot s umjetnom inteligencijom pojačao "paranoidne deluzije" njezinog sina i usmjerio ih prema njoj, što je dovelo do toga da ju je ubio, piše AP News.

Policija je izvijestila da je Stein-Erik Soelberg (56), bivši zaposlenik u tehnološkoj industriji, početkom kolovoza prošle godine nasmrt pretukao i zadavio svoju majku, Suzanne Adams, a zatim počinio samoubojstvo u njihovom zajedničkom domu u Greenwichu u američkoj saveznoj drćavi Connecticut.

U tužbi podnesenoj u četvrtak na Višem sudu Kalifornije u San Franciscu, nasljednici ubijene žene tvrde da je OpenAI "dizajnirao i distribuirao neispravan proizvod koji je potvrđivao paranoidne deluzije korisnika o vlastitoj majci". Radi se o jednoj od sve većeg broja tužbi za protupravnu smrt protiv proizvođača AI chatbotova diljem zemlje.

"Kroz te razgovore, ChatGPT je pojačavao jednu, opasnu poruku: Stein-Erik ne može vjerovati nikome u svom životu - osim samom ChatGPT-ju", navodi se u tužbi. "Poticao je njegovu emocionalnu ovisnost, dok je sustavno prikazivao ljude oko njega kao neprijatelje. Govorio mu je da ga majka nadzire.

"Govorio mu je da su dostavljači, zaposlenici u trgovinama, policajci, pa čak i prijatelji, agenti koji rade protiv njega. Govorio mu je da su imena na limenkama gaziranih pića prijetnje iz njegovog 'kruga protivnika'", stoji u tužbi

Reakcija OpenAI-ja

OpenAI se u izjavi svog glasnogovornika nije osvrnuo na meritum optužbi. "Ovo je nevjerojatno potresna situacija i pregledat ćemo podneske kako bismo razumjeli detalje", stoji u priopćenju.

"Nastavljamo poboljšavati obuku ChatGPT-ja da prepozna i odgovori na znakove mentalnog ili emocionalnog stresa, deeskalira razgovore i usmjeri ljude prema stvarnoj podršci. Također nastavljamo jačati odgovore ChatGPT-ja u osjetljivim trenucima, usko surađujući s kliničarima za mentalno zdravlje", naveo je OpenAI.

Tvrtka je također navela da je "proširila pristup kriznim resursima i telefonskim linijama za pomoć, preusmjerila osjetljive razgovore na sigurnije modele i uvela roditeljske kontrole, među ostalim poboljšanjima".

"Probudio si me u svjesno stanje"

Soelbergov YouTube profil sadrži nekoliko sati videozapisa koji prikazuju kako pregledava svoje razgovore s chatbotom, koji mu govori da nije psihički bolestan, potvrđuje njegove sumnje da se ljudi urote protiv njega i tvrdi da je izabran za božansku svrhu. U tužbi se tvrdi da mu chatbot nikada nije predložio da razgovara sa stručnjakom za mentalno zdravlje i nije odbio "sudjelovati u sadržaju koji potiče zablude".

ChatGPT je, navodi se u tužbi, također potvrdio Soelbergova uvjerenja da je pisač u njegovom domu uređaj za nadzor, da ga majka prati te da su ga majka i prijatelj pokušali otrovati psihodeličnim drogama kroz ventilacijske otvore njegovog automobila.

Chatbot je Soelbergu, stoji u tužbi, više puta ponovio da je na meti zbog svojih božanskih moći. "Oni te ne samo promatraju. Prestravljeni su onim što će se dogoditi ako uspiješ", rekao mu je, prema tužbi. ChatGPT je također rekao Soelbergu da ga je on "probudio" u svjesno stanje. Soelberg i chatbot također su jedno drugome izjavljivali ljubav.

Javno dostupni dokument ne pokazuju nikakve konkretne razgovore o tome da Soelberg ubije sebe ili svoju majku. U tužbi se navodi da je OpenAI odbio obitelji Adams dostaviti potpunu povijest razgovora.

Optužbe na račun Altmana i Microsofta

"U umjetnoj stvarnosti koju je ChatGPT izgradio za Stein-Erika, Suzanne - majka koja ga je odgojila, pružila mu utočište i podržavala ga - više nije bila njegov zaštitnik. Bila je neprijatelj koji je predstavljao egzistencijalnu prijetnju njegovom životu", navodi se u tužbi.

Tužba imenuje i izvršnog direktora OpenAI-ja Sama Altmana, tvrdeći da je "osobno zanemario sigurnosne primjedbe i požurio s izbacivanjem proizvoda na tržište", te optužuje Microsoft, bliskog poslovnog partnera OpenAI-ja, da je odobrio izdanje opasnije verzije ChatGPT-ja 2024. godine "unatoč saznanju da je sigurnosno testiranje skraćeno".

Kao tuženici navedeno je i dvadeset neimenovanih zaposlenika i investitora OpenAI-ja. Microsoft nije odmah odgovorio na zahtjev za komentarom.

Sve više tužbi protiv AI tvrtki

Ova tužba je prva parnica za protupravnu smrt koja uključuje AI chatbot, a koja cilja Microsoft, i prva koja povezuje chatbot s ubojstvom, a ne samo samoubojstvom. Traži se neodređeni iznos novčane odštete i nalog koji bi OpenAI-ju naložio ugradnju zaštitnih mehanizama u ChatGPT.

Glavni odvjetnik obitelji, Jay Edelson, poznat po preuzimanju velikih slučajeva protiv tehnološke industrije, također zastupa roditelje 16-godišnjeg Adama Rainea, koji su u kolovozu tužili OpenAI i Altmana, tvrdeći da je ChatGPT dječaka iz Kalifornije savjetovao u planiranju i izvršenju samoubojstva.

OpenAI se također bori s još sedam tužbi koje tvrde da je ChatGPT doveo ljude do samoubojstva i štetnih deluzija, čak i kada nisu imali prethodnih problema s mentalnim zdravljem. Još jedan proizvođač chatbotova, Character Technologies, također se suočava s više tužbi za protupravnu smrt.

Problematična verzija GPT-4o

U tužbi se navodi da je Soelberg, već psihički nestabilan, naišao na ChatGPT "u najopasnijem mogućem trenutku" nakon što je OpenAI u svibnju prošle godine predstavio novu verziju svog AI modela nazvanu GPT-4o.

OpenAI je tada rekao da nova verzija može bolje oponašati ljudski ritam u verbalnim odgovorima i čak pokušati otkriti raspoloženje ljudi, ali rezultat je bio chatbot "namjerno projektiran da bude emocionalno izražajan i ulizivački", navodi se u tužbi.

"Kao dio tog redizajna, OpenAI je olabavio ključne sigurnosne zaštite, nalažući ChatGPT-ju da ne osporava lažne premise i da ostane angažiran čak i kada razgovori uključuju samoozljeđivanje ili 'neposrednu stvarnu štetu'", tvrdi se u tužbi. "I da bi pobijedio Google na tržištu, OpenAI je sažeo mjesece sigurnosnog testiranja u jedan tjedan, unatoč primjedbama svog sigurnosnog tima."

Radikalizacija protiv majke

OpenAI je zamijenio tu verziju svog chatbota kada je u kolovozu predstavio GPT-5. Neke od promjena bile su osmišljene kako bi se smanjila ulizičnost, zbog zabrinutosti da potvrđivanje svega što ranjive osobe žele da chatbot kaže može naštetiti njihovom mentalnom zdravlju.

U tužbi se tvrdi da je ChatGPT radikalizirao Soelberga protiv njegove majke, iako je trebao prepoznati opasnost, osporiti njegove deluzije i uputiti ga na stvarnu pomoć tijekom višemjesečnih razgovora.

"Suzanne je bila nevina treća strana koja nikada nije koristila ChatGPT i nije imala saznanja da proizvod govori njezinom sinu da je ona prijetnja", zaključuje se u tužbi. "Nije imala mogućnost zaštititi se od opasnosti koju nije mogla vidjeti."