U NOVOJ tužbi protiv Googlea navodi se da je chatbot tvrtke Gemini potaknuo zablude 36-godišnjeg Jonathana Gavalasa i umalo ga natjerao da počini nasilni čin u blizini zračne luke u Miamiju, nakon čega je počinio samoubojstvo.

Muškarčev otac tužio je tehnološkog diva zbog smrti sina i odgovornosti za proizvod, u najnovijem od sve većeg broja pravnih postupaka protiv tvoraca umjetne inteligencije koji upozoravaju na opasnosti koje druženje s chatbotovima predstavlja za mentalno zdravlje, piše Associated Press.

Prema tužbi, Gavalas je bio na misiji da izazove "katastrofalnu nesreću" kod Međunarodne zračne luke Miami te uništi sve zapise i svjedoke, što je bio dio zabluda koje su eskalirale i završile njegovim samoubojstvom.

"Umjetna inteligencija šalje ljude u stvarne misije u kojima prijeti opasnost od masovnog stradavanja", izjavio je danas odvjetnik obitelji Jay Edelson. "Jonathan je bio zarobljen u svijetu nalik znanstvenoj fantastici, uvjeren da ga vlada i drugi žele uhvatiti. Vjerovao je da je Gemini svjesno biće."

Jonathan Gavalas, koji je živio u Jupiteru na Floridi, razgovarao je sa sintetičkom glasovnom verzijom Geminija kao sa svojom "AI suprugom" i počeo vjerovati da je ona svjesna i zarobljena u skladištu blizu zračne luke. Krajem rujna, navodi se u tužbi, otputovao je na to područje noseći taktičku opremu i naoružan noževima u potrazi za humanoidnim robotom i kamionom koji se nikada nije pojavio.

Nekoliko dana kasnije, početkom listopada, počinio je samoubojstvo. Prema nacrtu oproštajne poruke koju je sastavio Gemini, taj čin je opisan kao učitavanje njegove "svijesti kako bi bio sa svojom AI suprugom u džepnom svemiru".

Google: AI modeli nisu savršeni

Iz Googlea su u priopćenju izrazili "najdublju sućut obitelji gospodina Gavalasa" te naveli da razmatraju navode iz tužbe. Poručili su da je Gemini "dizajniran tako da ne potiče nasilje u stvarnom svijetu niti sugerira samoozljeđivanje" te da tvrtka usko surađuje s medicinskim i stručnjacima za mentalno zdravlje na razvoju zaštitnih mjera. Napomenuli su i da je Gemini Jonathanu Gavalasu pojasnio da je riječ o umjetnoj inteligenciji i više ga puta uputio na kriznu telefonsku liniju.

"Naši modeli općenito dobro funkcioniraju u ovakvim izazovnim razgovorima i u to ulažemo značajne resurse, ali nažalost AI modeli nisu savršeni", stoji u priopćenju tvrtke.

Odvjetnik Edelson je tu izjavu ocijenio kao "nešto što kažete ako vas netko pita za recept za piletinu kung pao, a vi mu date pogrešan recept pa jelo ne ispadne dobro".

"Ali kada vaša umjetna inteligencija dovodi do smrti ljudi i mogućnosti da umre još mnogo njih, to nije primjeren odgovor", rekao je Edelson. "To samo pokazuje koliko su tim tvrtkama te smrti beznačajne."

Sve više sličnih tužbi

Edelson, poznat po preuzimanju velikih slučajeva protiv tehnološke industrije, zastupa i roditelje 16-godišnjeg Adama Rainea, koji su u kolovozu tužili OpenAI i njegovog izvršnog direktora Sama Altmana, tvrdeći da je ChatGPT podučio dječaka iz Kalifornije kako planirati i izvršiti samoubojstvo.

Također zastupa nasljednike Suzanne Adams, 83-godišnje žene iz Connecticuta, u tužbi protiv OpenAI-ja i njegovog poslovnog partnera Microsofta. U tom se slučaju tvrdi da je ChatGPT pojačao "paranoidne zablude" Adaminog sina i pomogao mu da ih usmjeri prema majci prije nego što ju je prošle godine ubio.

Slučaj Gavalas, podnesen saveznom sudu u Kaliforniji, prvi je takve vrste usmjeren protiv Googleovog Geminija i prvi koji se dotiče rastuće zabrinutosti oko odgovornosti tehnoloških tvrtki kada korisnici počnu razgovarati sa svojim chatbotovima o planovima za masovno nasilje.

Kanadski slučaj

U Kanadi je OpenAI priopćio da je prošle godine razmatrao obavijestiti policiju o aktivnostima osobe koja je mjesecima kasnije počinila jednu od najgorih školskih pucnjava u povijesti zemlje. Tvrtka je u lipnju identificirala račun Jesseja Van Rootselaara zbog "poticanja na nasilne aktivnosti", ali je navela da je on kasnije zaobišao zabranu koristeći drugi račun. U veljači je 18-godišnjak ubio osam ljudi u zabačenom dijelu Britanske Kolumbije i preminuo od rane koju si je sam nanio vatrenim oružjem.

Iako je Gemini pokušao uputiti Gavalasa na liniju za pomoć, Edelson kaže da nije jasno jesu li najalarmantniji razgovori muškarca s chatbotom ikada prijavljeni Googleovim ljudskim moderatorima. Njegov otac, Joel Gavalas, pronašao je tijelo svog sina nakon što je ušao u zabarikadiranu sobu u kojoj je preminuo. Radili su zajedno u obiteljskoj tvrtki za olakšavanje potrošačkih dugova.

"Jonathan je bio ogroman, ogroman dio njegovog života", rekao je Edelson. "Njegov sin je prolazio kroz teško razdoblje, razvodio se. Obratio se Geminiju za utjehu, razgovarao o videoigrama i sličnim stvarima. A onda je sve tako brzo eskaliralo."

****

Savjetodavnu pomoć suicidalne i depresivne osobe mogu dobiti na više mjesta. U Republici Hrvatskoj postoji nekoliko brojeva telefona za psihološku pomoć:

Centar za krizna stanja i prevenciju suicida: 01 2376 335 (radi od 0 do 24 sata)

Plavi telefon: 01/4833888 (plavi-telefon@zg.t-com.hr)

Psihološki centar TESA: 01/4828888 (psiho.pomoc@tesa.hr)