ZVIŽDAČI iz TikToka i Mete otkrili su kako su se divovi društvenih mreža, u utrci za dominacijom svojih algoritama, kockali sa sigurnošću korisnika.

Nakon što su interna istraživanja pokazala da bijes potiče angažman, tvrtke su donosile odluke koje su dopuštale prikazivanje više štetnog sadržaja, rekli su zviždači. Više od deset bivših i sadašnjih zaposlenika razotkrilo je kako su se, u borbi za pažnju korisnika, preuzimali rizici u područjima koja uključuju nasilje, seksualne ucjene i terorizam, piše BBC.

Utrka za sustizanjem TikToka

Jedan inženjer u Meti, vlasniku Facebooka i Instagrama, opisao je kako mu je više rukovodstvo naložilo da dopusti više "granično" štetnog sadržaja, poput mizoginije i teorija zavjere, kako bi se mogli natjecati s TikTokom. "Nekako su nam dali do znanja da je to zbog pada cijene dionice", rekao je inženjer.

Utrka algoritama intenzivirala se 2020. godine, kada je kao odgovor na globalni uspjeh TikToka pokrenut Instagram Reels. Matt Motyl, viši istraživač u Meti od 2019. do 2023. godine, rekao je da je Reels pokrenut bez adekvatnih zaštitnih mehanizama. Interno istraživanje koje je podijelio s BBC-jem pokazalo je da su komentari na Reelsu imali znatno veću učestalost zlostavljanja, govora mržnje te nasilja ili poticanja na nasilje nego na ostatku Instagrama.

Prema drugom bivšem zaposleniku, tvrtka je uložila u 700 zaposlenika za rast Reelsa, dok je sigurnosnim timovima istovremeno odbijeno zapošljavanje dvoje stručnjaka za zaštitu djece i deset za integritet izbora. Brandon Silverman, čiji je alat Crowdtangle Facebook kupio 2016., opisao je izvršnog direktora Marka Zuckerberga kao "vrlo paranoičnog" zbog konkurencije. "Kad osjeti da postoje potencijalne konkurentske snage, nijedan iznos novca nije prevelik", ustvrdio je Silverman.

Bivši inženjer u Meti, nazvan Tim, potvrdio je da je, dok se tvrtka borila s TikTokom, dopušteno više granično štetnog sadržaja. "Gubite od TikToka i cijena dionice vam pada. Ljudi su postali paranoični i reaktivni pa su rekli: 'Učinimo sve što možemo da ih sustignemo'", ispričao je.

Prioritet su političari, a ne djeca

Zaposlenik TikToka, pod pseudonimom Nick, omogućio je BBC-ju rijedak uvid u interne sustave za praćenje korisničkih pritužbi. Pokazao je dokaze kako je TikTok trivijalnim slučajevima koji uključuju političare davao veći prioritet od niza prijava o štetnim objavama povezanim s djecom. "Ako se svakodnevno osjećate krivim zbog onoga što vam naređuju, u jednom trenutku odlučite da nešto morate reći", objasnio je Nick.

U jednom primjeru, pritužba političara kojeg su ismijavali uspoređujući ga s piletom dobila je prioritet pred prijavom 17-godišnjakinje iz Francuske koja je bila žrtva internetskog zlostavljanja te 16-godišnjakinje iz Iraka koja se žalila da se na aplikaciji dijele njezine navodne seksualizirane slike. Komentirajući slučaj iz Iraka, Nick je rekao: "Ako pogledate zemlju iz koje dolazi prijava, rizik je vrlo visok jer se radi o maloljetnici i seksualnoj ucjeni, a prioritet je nizak. Hitnost nije visoka."

Nick tvrdi da je razlog takvog postupanja to što tvrtka manje brine o sigurnosti djece, a više o održavanju "čvrstih odnosa" s političarima i vladama kako bi izbjegla regulacije ili zabrane. Njegov izravan savjet roditeljima je: "Izbrišite TikTok. Držite djecu što dalje od aplikacije, što je duže moguće."

Algoritam kao crna kutija

Ruofan Ding, koji je od 2020. do 2024. radio kao inženjer na TikTokovom sustavu preporuka, kaže da su algoritmi "crna kutija" čiji je rad teško ispitati. "Nemamo kontrolu nad samim algoritmom dubokog učenja", rekao je, dodavši da je nemoguće izgraditi potpuno sigurne sustave. Objasnio je da inženjeri ne obraćaju pažnju na sadržaj objava. "Za nas je sav sadržaj samo identifikacijski broj, samo još jedna brojka."

Rekao je da su se oslanjali na sigurnosne timove da uklone štetne objave, usporedivši njihov odnos s timovima koji rade na automobilu. "Postoji tim odgovoran za ubrzanje, za motor, zar ne? Očekujemo da je tim koji radi na kočnicama dobro obavio svoj posao", slikovito je opisao. No, kako je TikTok gotovo tjedno poboljšavao algoritam radi osvajanja tržišta, Ding je počeo primjećivati sve više "graničnog" ili problematičnog sadržaja.

Radikaliziran algoritmom

Posljedice takve prakse osjetio je Calum, danas 19-godišnjak, koji kaže da ga je "algoritam radikalizirao" kad mu je bilo 14 godina. Aplikacija mu je prikazivala sadržaj koji ga je ispunjavao bijesom i doveo do toga da usvoji rasističke i mizogine stavove. "Ti su me videi nabrijavali, ali ne na dobar način", rekao je. "Samo su me jako ljutili. To je uvelike odražavalo kako sam se osjećao iznutra, da sam bio ljut na ljude oko sebe."

Stručnjaci za protuterorizam u Velikoj Britaniji kažu da su posljednjih mjeseci primijetili "normalizaciju" antisemitskih, rasističkih, nasilnih i krajnje desnih objava. "Ljudi su postali manje osjetljivi na nasilje u stvarnom svijetu i ne boje se dijeliti svoja stajališta", rekao je jedan dužnosnik.

Kao odgovor na tvrdnje zviždača, Meta je poručila: "Svaka sugestija da namjerno potičemo štetan sadržaj radi financijske dobiti je pogrešna." Tvrtka je dodala da ima stroge politike zaštite korisnika i da je uložila značajna sredstva u sigurnost.

TikTok je optužbe nazvao "izmišljenim tvrdnjama" i odbacio ideju da se politički sadržaj stavlja ispred sigurnosti mladih, navodeći da to "temeljno pogrešno prikazuje način na koji funkcioniraju njihovi sustavi moderiranja". Iz tvrtke su poručili da ulažu u tehnologiju koja sprječava da se štetan sadržaj uopće vidi te da računi za tinejdžere imaju više od 50 unaprijed postavljenih sigurnosnih značajki.