EUROPSKA komisija danas je objavila da je preliminarno zaključila kako kineska društvena mreža TikTok krši Zakon o digitalnim uslugama zbog štetnog učinka takozvane "zečje rupe", koji korisnike satima drži prikovane za ekran.

TikTokov feed "Za tebe" korisnicima prikazuje kontinuirani niz personaliziranih videozapisa. Što korisnik više stupa u interakciju s određenom vrstom sadržaja, to mu algoritam feeda "Za tebe" preporučuje više sličnog sadržaja. Posljedica toga je da korisnici satima ostaju na mreži, gubeći pojam o vremenu, za što se često koristi izraz "upasti u zečju rupu" (engl. rabbit hole).

Te "zečje rupe" mogu imati poguban učinak na mentalno zdravlje korisnika, osobito ranjivih odraslih osoba i maloljetnika.

"Svaki put kada korisnik na TikToku lista sadržaj ili videozapis označi oznakom 'sviđa mi se', algoritam mu servira još više takvog sadržaja, uvlačeći ga u 'zečje rupe' iz kojih nije lako izaći", izjavila je izvršna potpredsjednica za tehnološku suverenost Henna Virkkunen.

"Ugrožava se dobrobit korisnika"

Današnji preliminarni nalazi odnose se i na procjenu rizika i na mjere za njihovo ublažavanje. Komisija je preliminarno utvrdila da TikTok nije na odgovarajući način procijenio na koji način njegov algoritam za preporuke korisnike može odvesti u takve "zečje rupe", čime se ugrožava njihova dobrobit.

Primjerice, kada korisnik opetovano gleda ili označava sadržaj koji može djelovati kao okidač, poput sadržaja o mršavljenju ili percepciji vlastitog tijela, sustav te interakcije tumači kao znakove interesa te preporučuje još više takvog sadržaja.

Opetovano izlaganje takvom sadržaju može imati ozbiljne negativne posljedice na dobrobit korisnika, uključujući pojačane osjećaje tuge ili tjeskobe, nezadovoljstvo vlastitim tijelom, narušeno samopouzdanje te pogoršanje postojećih poremećaja hranjenja i drugih mentalnih poteškoća, navodi Komisija.

U konačnici se može izreći novčana kazna

Komisija je utvrdila da preliminarni nalazi upućuju na to da TikTok nije proveo razmjerne, razumne i učinkovite mjere za ublažavanje tih rizika. Iako je TikTok već uveo određene mjere kako bi smanjio rizik od učinka "zečje rupe", Komisija je preliminarno utvrdila da te mjere nisu učinkovite.

Komisija smatra da TikTok mora izmijeniti dizajn feeda "Za tebe" (engl. For You). TikTok bi se trebao više oslanjati na izričite preferencije korisnika, prestati koristiti vrijeme gledanja kao kriterij za preporučivanje sadržaja, poboljšati dostupnost i jednostavnost korištenja kontrola za korisnike te redovito testirati svoj algoritam, navodi Komisija.

Ako se preliminarni nalazi u konačnici potvrde, Komisija može donijeti odluku o neusklađenosti, što može dovesti do izricanja novčane kazne. Iznos kazne bit će razmjeran prirodi, težini, učestalosti i trajanju povrede, a može iznositi najviše šest posto ukupnog godišnjeg prometa pružatelja usluga na svjetskoj razini.

TikTok ima mogućnost uvida u dokumente iz spisa istrage Komisije te pisanim putem odgovoriti na njezine preliminarne nalaze.