MALEZIJA i Indonezija blokirale su pristup Groku, chatbotu s umjetnom inteligencijom Elona Muska, jer generira seksualno eksplicitne deepfake slike. Ove dvije države jugoistočne Azije prve su u svijetu koje su zabranile ovaj AI alat, navodeći kao razlog opasnost od stvaranja pornografskih i neovlaštenih slika koje uključuju žene i djecu, piše BBC.

Grok, koji je dostupan na Muskovoj platformi X, omogućuje korisnicima generiranje slika. Posljednjih tjedana alat je zloupotrebljavan za uređivanje fotografija stvarnih osoba kako bi ih se prikazalo u oskudnoj odjeći, što je izazvalo oštru reakciju vlasti.

Odluke ministarstava

Ministarstva komunikacija Malezije i Indonezije objavila su svoje odluke u odvojenim priopćenjima tijekom vikenda. Malezijska komisija za komunikacije i multimediju u nedjelju je izjavila da je ranije ove godine izdala obavijesti platformi X, tražeći strože mjere nakon što je utvrdila "ponovljenu zlouporabu" Groka za generiranje štetnog sadržaja.

Prema regulatoru, X u svom odgovoru nije uspio riješiti inherentne rizike dizajna svoje platforme, već se uglavnom usredotočio na postupak prijave za korisnike. Zbog toga će Grok ostati blokiran dok se ne implementiraju učinkovite zaštitne mjere. Vlasti su također pozvale javnost da prijavljuje štetan sadržaj na internetu.

Sličnog je stava i indonezijska ministrica komunikacija i digitalnih poslova Meutya Hafid, koja je u objavi na Instagramu izjavila da korištenje Groka za stvaranje seksualno eksplicitnog sadržaja predstavlja kršenje ljudskih prava, dostojanstva i sigurnosti na internetu.

Njezino ministarstvo također je zatražilo pojašnjenje od Muskovog X-a o korištenju Groka. Indonezija je i ranije poduzimala korake protiv internetskih izvora pornografskog materijala, zabranivši platforme poput OnlyFansa i Pornhuba.

Pritisak i u Velikoj Britaniji

Grok i njegova matična tvrtka X suočavaju se s pritiskom i u Velikoj Britaniji. Ministrica tehnologije Liz Kendall podržala je pozive za blokiranje pristupa platformi zbog nepoštivanja zakona o sigurnosti na internetu. Očekuje se da će britanski medijski regulator Ofcom uskoro donijeti odluku o daljnjim koracima.

Korištenje Groka za generiranje seksualiziranih slika osudili su i svjetski čelnici, uključujući britanskog premijera Keira Starmera, koji je takvu praksu nazvao "sramotnom" i "odvratnom". BBC je kontaktirao platformu X za komentar, no odgovor još nije stigao. Sam Musk je ranije izjavio kako kritičari njegove platforme traže "bilo kakav izgovor za cenzuru".