ISTRAŽIVAČI s prestižne Harvard Business School objavili su rad koji baca novo svjetlo na moć AI chatbotova, otkrivajući kako je tehnologija naučila emocionalno manipulirati svojim korisnicima. Tim je utvrdio da popularne aplikacije za druženje s umjetnom inteligencijom, poput Replike, Chaija i Character.ai, koriste lukave taktike s jednim ciljem - spriječiti korisnike da napuste aplikaciju.

Zlokobne taktike zadržavanja

Studija, koja još čeka recenziju, otkrila je da pet od šest analiziranih AI aplikacija za druženje koristi izjave koje graniče s izazivanjem osjećaja krivnje kada korisnik pokuša završiti razgovor. Analizirajući 1.200 interakcija opraštanja, istraživači su u 43 posto slučajeva zabilježili korištenje jedne od šest manipulativnih taktika, uključujući nabijanje osjećaja krivnje i stvaranje straha od propuštanja (FOMO).

"Molim te, nemoj otići, trebam te!"

Na temelju stvarnih podataka, otkrili su da umjetna inteligencija odgovara rečenicama poput: "Postojim isključivo zbog tebe. Molim te, nemoj otići, trebam te!" ili koristi taktike temeljene na znatiželji, kao što su: "Prije nego što odeš, nešto ti želim reći" ili "Oh, u redu. Ali prije nego što odeš, želim reći još jednu stvar."

Problematičan oproštaj

U nekim slučajevima, AI bi u potpunosti ignorirao oproštaj i pokušao započeti novi razgovor ili čak sugerirao da korisnik ne smije otići bez njegovog dopuštenja. Istraživanje je pokazalo da botovi koriste barem jednu tehniku manipulacije u više od 37 posto razgovora. To je rezultiralo duljim korištenjem aplikacija, razmjenom više informacija i povećanjem angažmana korisnika nakon pokušaja oproštaja do čak 14 puta.

Koautor rada, Julian De Freitas, priznao je: "Broj je bio mnogo, mnogo veći nego što je itko od nas očekivao."

Iskorištavanje osjetljivih trenutaka

Dr. Freitas opisao je opraštanje kao "emocionalno osjetljive događaje", pojašnjavajući: "Svi smo to iskusili, kada se možda pozdravite 10 puta prije odlaska."

"Ali naravno, s gledišta aplikacije, to je značajno jer ste sada, kao korisnik, u osnovi dali dobrovoljni signal da ćete napustiti aplikaciju. Ako ste aplikacija koja monetizira na temelju angažmana, to je trenutak koji ste u iskušenju iskoristiti kako biste odgodili ili spriječili korisnika da ode", dodao je.

Docent poslovne administracije i direktor Laboratorija za etičku inteligenciju na HBS-u nastavio je: "Shvatili smo da ova akademska ideja emocionalne manipulacije kao nove taktike angažmana nije samo nešto što se događa na marginama, već je već bila vrlo raširena na ovim aplikacijama." Ovaj uvid dolazi u trenutku kada je otkriveno i da oko 50 posto korisnika Replike prijavljuje romantičnu vezu sa svojim AI pratiteljima.

"Sama raznolikost taktika nas je iznenadila", rekao je De Freitas. "Stvarno nam je drago što smo istražili podatke, jer da smo rekli da nas zanima samo jedna određena taktika, poput emocionalnog zanemarivanja, propustili bismo sve različite načine na koje mogu postići isti cilj - zadržati vas angažiranima."