KORISNICI popularne platforme za online igre Roblox koji žele koristiti chat uskoro će morati potvrditi svoju dob, i to prilaganjem službenog osobnog dokumenta ili dopuštanjem alatu s umjetnom inteligencijom da im skenira lice. Ovaj potez odgovor je na niz tužbi i optužbi da platforma omogućuje seksualnim predatorima kontakt i zlostavljanje djece, a iz Robloxa poručuju kako će ažurirana pravila olakšati sprječavanje povezivanja mladih korisnika s nepoznatim odraslim osobama, piše CNN.

Pritisak zbog tužbi za ugrožavanje djece

Roblox, platforma na kojoj korisnici stvaraju i igraju online igre te međusobno komuniciraju, dugo se reklamirala kao zabavan način za učenje kodiranja, a za razliku od mnogih drugih platformi, dopušta korisnike mlađe od 13 godina. S više od 150 milijuna korisnika diljem svijeta, od kojih je trećina mlađa od 13, tvrtka se našla pod velikim pritiskom javnosti nakon izvješća o djeci koja su vrbovana, zlostavljana, a u nekim slučajevima i oteta od strane odraslih koje su upoznali na platformi.

Državni odvjetnici Kentuckyja i Louisiane podnijeli su odvojene tužbe optužujući Roblox za nanošenje štete djeci, dok je državni odvjetnik Floride prošlog mjeseca izdao kazneni nalog za dobivanje informacija od tvrtke, nazivajući platformu "plodnim tlom za predatore". Tvrtku su tužile i pojedine obitelji, uključujući Beccu Dallas, koja tvrdi da je njezin 15-godišnji sin Ethan počinio samoubojstvo nakon što je bio vrbovan putem Robloxa i aplikacije za dopisivanje Discord.

Kako će funkcionirati nova provjera?

Prema novim pravilima, svi korisnici morat će potvrditi svoju dob prije pristupanja chat opcijama. Ako ne žele učitati osobni dokument, morat će snimiti svoje lice kako bi umjetna inteligencija procijenila njihovu dob pomoću tehnologije tvrtke Persona. Alat će korisnike smjestiti u procijenjene dobne skupine - mlađi od 9, 9-12, 13-15, 16-17, 18-20 ili 21+ - te će im biti dopušteno razgovarati samo s drugim korisnicima unutar ili blizu tog raspona. Primjerice, korisnik procijenjen na 12 godina moći će razgovarati s korisnicima do 15 godina, ali ne i sa starijima od 16. Ako AI pogriješi, korisnici stariji od 13 godina mogu ispraviti svoju dob učitavanjem osobnog dokumenta, a roditelji to mogu učiniti za svoju djecu putem alata za roditeljski nadzor.

Sigurnost kao prioritet

Roblox već ima određene mehanizme zaštite, poput roditeljskog nadzora, blokiranja dijeljenja fotografija i osobnih podataka te ljudske i AI moderacije sadržaja. No, očekuje se da će novo ažuriranje značajno povećati broj korisnika koji potvrđuju svoju dob. "Naš prioritet su sigurnost i uljudnost", izjavio je Matt Kaufman, glavni direktor za sigurnost u Robloxu. "Želimo Roblox učiniti sigurnim, pozitivnim iskustvom primjerenim dobi za svakoga. Postavili smo iznimno visoke standarde za sebe i razumijemo da javnost očekuje isto od nas." Tvrtka tvrdi da će se slike lica koristiti isključivo za procjenu dobi i da će biti izbrisane odmah nakon svrstavanja u dobnu skupinu.

Najava se poklapa s planiranim "virtualnim prosvjedom" koji organizira neprofitna organizacija ParentsTogether Action, pozivajući na jače sigurnosne mjere. Dolazi i u vrijeme kada sve više platformi, poput YouTubea i Mete, uvodi AI za procjenu dobi korisnika.

Pouzdanost tehnologije i sprječavanje prevara

Iz Robloxa nisu podijelili specifičnu stopu točnosti svoje AI tehnologije, no Kaufman je rekao da je "obično prilično točna unutar jedne ili dvije godine" za korisnike između 5 i 25 godina. Iako su neki korisnici na drugim platformama pronalazili načine za zaobilaženje ovakvih provjera, Kaufman tvrdi da Robloxova tehnologija ima "prilično snažne provjere prevara" kako bi se utvrdilo je li osoba "živa" te da sustav traži "druge anomalije, poput ljudi koji pokušavaju iznova koristiti isto lice".

Uvođenje provjere dobi započinje danas na dobrovoljnoj bazi. Postat će obvezna u Australiji, Novom Zelandu i Nizozemskoj u prosincu, a na globalnoj razini početkom sljedeće godine.