UN-OVA agencija za djecu UNICEF pozvala je danas države da kriminaliziraju stvaranje sadržaja seksualnog zlostavljanja djece generiranog umjetnom inteligencijom, uz upozorenje da raste broj takvih slika koje seksualiziraju djecu, piše Reuters.

Agencija je istodobno pozvala programere da u AI modele ugrade zaštitne mehanizme kako bi se spriječila zlouporaba. Digitalne tvrtke, poručuju iz UNICEF-a, trebale bi ograničiti širenje takvog sadržaja jačim moderiranjem i ulaganjem u tehnologije za otkrivanje.

"Šteta od zlouporabe deepfakeova stvarna je i hitna. Djeca ne mogu čekati da zakon sustigne problem", stoji u priopćenju UNICEF-a. Deepfakeovi su slike, videozapisi i zvučni zapisi koje stvara umjetna inteligencija i koji uvjerljivo oponašaju stvarne osobe.

Zabrinutost zbog "nudifikacije"

UNICEF je izrazio zabrinutost i zbog takozvane "nudifikacije" djece, korištenja umjetne inteligencije za uklanjanje ili mijenjanje odjeće na fotografijama, kako bi se stvorile lažne nage ili seksualizirane slike. Prema podacima UNICEF-a, u posljednjih godinu dana najmanje 1,2 milijuna djece u 11 zemalja doznalo je da su njihove fotografije manipulirane u seksualno eksplicitne deepfakeove.

Velika Britanija je u subotu objavila plan da proglasi nezakonitim korištenje AI alata za stvaranje slika seksualnog zlostavljanja djece, čime bi, navodi UNICEF, postala prva zemlja na svijetu s takvim zakonom.

Chatbotovi pod povećalom

Posljednjih godina raste zabrinutost zbog korištenja umjetne inteligencije za generiranje sadržaja zlostavljanja djece. Posebno su se istaknuli chatbotovi poput Groka, proizvoda tvrtke xAI u vlasništvu Elona Muska, koji se našao pod kritikama zbog generiranja seksualiziranih slika žena i maloljetnika.

Istraga Reutersa otkrila je da je chatbot nastavio stvarati takve slike i kada su korisnici izričito naveli da osobe na slikama nisu dale pristanak. Tvrtka xAI je 14. siječnja objavila da je ograničila mogućnost uređivanja slika za korisnike Groka te da je, ovisno o lokaciji, blokirala generiranje slika oskudno odjevenih osoba u jurisdikcijama u kojima je to protuzakonito.

Nisu precizirali o kojim se zemljama radi. Ranije su funkcije za generiranje i uređivanje slika ograničili samo na pretplatnike.