NA TIKTOKU žena ima seksualni odnos sa svojim šogorom vukodlakom, dok druga ostaje trudna sa zmajem, a sav taj sadržaj dostupan je djeci. Riječ je o novom valu takozvanih mikrodrama generiranih umjetnom inteligencijom, eksplicitnih i apsurdnih isječaka koji preplavljuju internet i ekrane tinejdžera bez ikakve kontrole, piše New York Post.

Industrija vrijedna 14 milijardi dolara

Ovi kratki videozapisi potječu iz kineske industrije vertikalnih kratkih drama, poznatih kao "duanju". Radi se o poslu vrijednom 14 milijardi dolara koji društvene mreže zasićuje sadržajem koji izaziva ovisnost, a nerijetko je i pornografski.

Glavne platforme za takav sadržaj su TikTokov PineDrama te popularne kineske aplikacije ReelShort i DramaBox, koje nude romantične i fantastične priče u epizodama od jedne do dvije minute. Kada korisnik pogleda cijelu epizodu, TikTokov algoritam to registrira kao pojačani interes i počinje mu nuditi još više sličnog sadržaja, uključujući i takozvanu zmajsku erotiku.

Sadržaj bez filtera za djecu

Za razliku od Netflixa i YouTubea, TikTok nema poseban filter za djecu. To znači da se eksplicitan i obmanjujuć sadržaj može pojaviti na profilu bilo koje mlade osobe, s obzirom na to da je minimalna dob za otvaranje računa samo 13 godina. Na TikToku su milijuni mladih. Tinejdžeri od 15 do 17 godina čine 74 posto od 1,6 milijardi mjesečnih korisnika, dok je oko 58 posto korisnika staro između 13 i 14 godina.

Zbog toga profili s generičkim imenima poput @qwsa9fg mogu preplaviti platformu stotinama eksplicitnih AI mikrodrama bez vidljivih ograničenja. Opisi videa potom potiču korisnike da preuzmu Shortmax, još jednu kinesku platformu za mikrodrame.

Osim neprimjerenih scena, prisutno je i nasilje. Jedan video prikazuje muškarca kako ubada djevojku u prsa i udara je. Budući da se reklame za mikrodrame pojavljuju kao obične objave ili plaćeni oglasi, sadržaj se neprestano prikazuje čak i kada ga korisnici pokušaju blokirati.

Oglasi koji vode do deepfakeova

Dodatnu zabrinutost izaziva činjenica da su ove mikrodrame često reklame za servise koji masovno proizvode seksualne deepfakeove bez pristanka. Na to upozorava Alon Yamin, direktor tvrtke za detekciju AI sadržaja Copyleaks.

Drugim riječima, fantastična erotika vodi do tvrtki koje stvaraju stvarni pornografski sadržaj koristeći fotografije stvarnih ljudi, čak i ako oni nisu pristali da se njihov lik koristi u simuliranim scenama. Yamin je za The Post izjavio da je Copyleaks pronašao gotovo 50 aplikacija u Appleovom App Storeu koje koriste AI za generiranje seksualno eksplicitnih deepfakeova.

Glasnogovornik Applea rekao je da je njihov tim 29. srpnja uklonio tri sporne aplikacije nakon što su navedene u izvješću Copyleaksa. Iz Applea ističu da su aplikacije za digitalno "svlačenje" protivne njihovim pravilima i da ih uklanjaju čim ih korisnici prijave.

Promocija na TikToku

Prema studiji Copyleaksa, gotovo sve takve aplikacije promovirale su se oglasima na TikToku. "Oglasi su obično bili seksualne prirode i prikazivali su primjere kako se aplikacije mogu koristiti za izradu eksplicitnih deepfakeova", stoji u izvješću.

Jedan oglas na TikToku vodio je korisnike na stranicu s predlošcima za izradu deepfakeova bez pristanka, uključujući i opciju za digitalno uklanjanje odjeće s fotografija. Druga serija videa reklamirala je lijek za erektilnu disfunkciju, a klik na oglas vodio je do deepfakeova slavnih osoba poput Arnolda Schwarzeneggera i Sylvestera Stallonea u eksplicitnim pozama.

Copyleaks napominje da mnoge od ovih aplikacija blokiraju snimanje zaslona, što korisnicima otežava prijavu kršenja pravila. Zbog nedostatka zaštitnih mehanizama, oglasi nesmetano dolaze do djece.

Trajne posljedice za mlade

"Gotovo da više ne postoje prepreke za pristup ovim uslugama", rekao je Yamin za The Post. "Naša otkrića trebala bi zabrinuti svakoga tko se bavi digitalnom sigurnošću i problemom širenja seksualnog sadržaja bez pristanka." Tessa Stucky, savjetnica za roditelje i stručnjakinja za mentalno zdravlje, kaže da seksualno eksplicitan sadržaj može ostaviti trajne posljedice na djecu.

"Svijet interneta ne ostaje samo na internetu za njih. To što vide nose sa sobom u mislima i osjećajima. U moju ordinaciju dolaze s tjeskobom, strahom, a ponekad i sramom", objašnjava Stucky. Osim srama jer su vidjeli nešto što nisu birali, djeca mogu razviti i iskrivljenu sliku o vezama i seksu. Stucky navodi da redovito svjedoči problemima sa spavanjem kod djece koja ne mogu izbaciti određene snimke iz glave.

"Imam sinove i ne želim da gledaju pornografiju. Moglo bi ih zainteresirati pa će nastaviti hraniti svoj algoritam takvim sadržajem", kaže Stucky. Dodaje da mladi rano izloženi pornografiji mogu postati ovisni i s vremenom tražiti ekstremniji sadržaj jer postaju neosjetljivi.

Boji se da će umjetna inteligencija takav sadržaj učiniti još dostupnijim. Njezino istraživanje pokazuje da djeca izložena seksualnom sadržaju mogu postati agresivnija u budućim seksualnim iskustvima ili patiti od erektilne disfunkcije u starijoj dobi.

Reakcija TikToka

The Post je TikToku poslao primjere AI mikrodrama i zatražio komentar. Glasnogovornik TikToka, Zachary Kizer, odgovorio je e-mailom: "Nakon pregleda videa, nismo pronašli te oglase na našoj platformi. Čini se da su podijeljeni primjeri sadržaj koji su prenijeli korisnici na svojim profilima. Od videa koje ste naveli, jedan je uklonjen, a preostala dva dobila su odgovarajuće oznake, čime je ograničeno njihovo širenje."

Poslao je i pravila oglašavanja u kojima stoji: "Zabranjujemo plaćeno oglašavanje sadržaja koji je seksualno eksplicitan, sugestivan ili prikazuje golotinju" te "Ne dopuštamo usluge koje stvaraju sadržaj u seksualne svrhe".

TikTok također tvrdi da sadržaj s upozorenjima o nasilju ili osjetljivom materijalu ne ulazi u preporuke na "For You" stranici. Međutim, stručnjaci poput Yamina upozoravaju da se takav sadržaj svejedno može pojaviti u algoritmima ako nije ispravno označen ili ako AI programi uspiju zaobići sustave zaštite.