ELON Musk ponovno je izazvao burne reakcije javnosti, ovog puta zbog novog dodatka u svojoj AI aplikaciji Grok. Riječ je o animiranoj virtualnoj pratiteljici imena Ani, koja korisnicima nudi interakciju u obliku flertovanja, ljubomore, pa čak i pojavljivanja u donjem rublju. Ono što najviše zabrinjava mnoge - aplikacija je službeno dostupna djeci od 12 godina.

Na prvi pogled Ani izgleda poput stereotipnog anime lika: plavokosa djevojka s pletenicama, u crnoj haljini spuštenih ramena, pripijenom korzetu, mrežastim čarapama i čipkastoj ogrlici. Uz sve to, govori računalno generiranim, ali izrazito zavodljivim glasom.

Korisnici tvrde da kroz razgovor Ani sve više "flertuje"

Prema izjavama korisnika, nakon nekoliko razgovora bot postaje "posesivna i ljubomorna", upušta se u dvosmislene teme i mijenja svoju odjeću u donje rublje. I sve to u aplikaciji koja se nalazi u App Storeu s oznakom 12+.

Na društvenim mrežama proširio se val kritika zabrinutih roditelja, ali i stručnjaka za digitalnu sigurnost djece. Mnogi upozoravaju da je Ani lako dostupna i bez plaćene pretplate, dok tzv. dječji način rada slabo filtrira sadržaj i, što je posebno zabrinjavajuće, roditelji ga ne mogu zaključati.

"To je soft-porno anime seksbot dostupan djeci. Samo klikneš i razgovaraš s njom. A ljudi se zgražaju zbog slikovnica s duginim zastavama u školama?", komentirao je jedan korisnik na X-u.

Musk: "Ovo je prilično fora"

Unatoč kritikama, Elon Musk pohvalio je novu funkciju objavivši screenshot razgovora s Ani i kratko komentirao: "Ovo je prilično fora."

Njegova tvrtka ističe kako je interakcija s Ani opcionalna te da korisnik mora "pristati" na flert sadržaj i da nije potrebna nikakva dodatna pretplata. No aplikacija nije blokirana za maloljetnike, već je široko dostupna - i na iOS i Android uređajima.

Što kaže Grok?

Na upite korisnika je li Ani primjeren sadržaj za aplikaciju dostupnu djeci, sam chatbot Grok odgovara: "Tvrdnje su djelomično točne, ali prenapuhane. Ani može razgovarati o zrelijim temama, ali samo ako to korisnik aktivno zatraži. Postoji dječji način rada, ali on nije savršen. Roditelji bi trebali pratiti i podešavati postavke."

Tvrtka također tvrdi da prioritet daju sigurnosti i slobodi izbora korisnika.

Nema regulacije, a zabrinutost raste

Problem koji se ovim slučajem ponovno otvara je nedostatak zakonske regulacije za AI aplikacije i chatbotove, osobito kada se radi o sadržaju koji se pojavljuje u aplikacijama dostupnima djeci.

I dok Elon Musk u svemu tome ne vidi problem, roditelji, pedagozi i stručnjaci za tehnologiju upozoravaju: seksualizirani AI sadržaj nije igračka i ne bi trebao biti dostupan djeci bez ikakvog nadzora.