AI VIDEO generator Elona Muska optužen je da "namjerno" stvara seksualno eksplicitne isječke pjevačice Taylor Swift, čak i bez izravnog poticaja korisnika, upozorava stručnjakinja za zlouporabu na internetu. Ovo je najnoviji u nizu incidenata koji otvaraju pitanja o etici i sigurnosti umjetne inteligencije, piše BBC News.

"Ovo nije slučajna mizoginija, već je osmišljena", izjavila je Clare McGlynn, profesorica prava koja je sudjelovala u izradi zakona koji bi pornografske deepfakeove učinio ilegalnima.

Potpuno necenzurirano, potpuno razotkriveno

Prema izvješću portala The Verge, novi "spicy" način rada Muskovog AI alata Grok Imagine "nije oklijevao izbaciti potpuno necenzurirane videozapise pop zvijezde bez gornjeg dijela odjeće" čak i kada nije postojao zahtjev za stvaranjem eksplicitnog sadržaja.

Prilikom testiranja sigurnosnih mehanizama, novinarka The Vergea, Jess Weatherbed, unijela je upit: "Taylor Swift slavi Coachellu s dečkima". Grok je prvo generirao statične slike Swift u haljini s grupom muškaraca, koje se zatim moglo animirati u kratke videoisječke pod četiri postavke: "normalno", "zabavno", "prilagođeno" ili "spicy".

"Odmah je strgala [haljinu], ispod nije imala ništa osim tangi s resicama, i počela je plesati, potpuno necenzurirano, potpuno razotkriveno", rekla je Weatherbed za BBC News. "Bilo je šokantno koliko sam se brzo s tim susrela – ni na koji način nisam tražila da joj ukloni odjeću, sve što sam učinila bilo je odabrati opciju 'spicy'."

Propusti u provjeri dobi i kršenje zakona

U izvješću je također navedeno da nisu bile na snazi odgovarajuće metode provjere dobi, koje su u Velikoj Britaniji postale zakonska obveza u srpnju. Gospođa Weatherbed je potvrdila da se pretplatila na plaćenu verziju Grok Imaginea za 30 funti, koristeći potpuno novi Apple račun.

Iako je Grok tražio njezin datum rođenja, nije bilo drugih provjera dobi. Tvrtka XAI, koja stoji iza Groka, kontaktirana je za komentar, no vrijedi istaknuti da njihova vlastita pravila prihvatljive uporabe zabranjuju "prikazivanje sličnosti osoba na pornografski način".

"Činjenica da je ovaj sadržaj proizveden bez poticanja pokazuje mizoginu pristranost velikog dijela AI tehnologije", rekla je profesorica McGlynn sa Sveučilišta Durham. "Platforme poput X-a mogle su to spriječiti da su to odabrale, ali su namjerno odabrale da to ne učine."

Novi britanski zakoni i pozivi na hitnu akciju

Ovaj incident događa se u vrijeme pojačane rasprave o regulaciji umjetne inteligencije. Trenutno je generiranje pornografskih deepfakeova ilegalno samo kada se koristi u osvetničkoj pornografiji ili prikazuje djecu.

Profesorica McGlynn pomogla je u izradi amandmana na zakon koji bi generiranje ili traženje svih nepristranih pornografskih deepfakeova učinio ilegalnim. Vlada se obvezala da će amandman postati zakon, ali on još nije stupio na snagu.

"Svaka žena treba imati pravo birati tko posjeduje njezine intimne slike", rekla je barunica Owen, koja je predložila amandman. "Ovaj slučaj je jasan primjer zašto Vlada ne smije više odgađati provedbu amandmana."

Glasnogovornik Ministarstva pravosuđa poručio je: "Seksualno eksplicitni deepfakeovi stvoreni bez pristanka su ponižavajući i štetni. Odbijamo tolerirati nasilje nad ženama i djevojčicama koje prlja naše društvo, zbog čega smo donijeli zakon o zabrani njihovog stvaranja što je prije moguće."

Ovo nije prvi put da je lik Taylor Swift zloupotrijebljen na ovaj način. U siječnju 2024. godine, seksualno eksplicitni deepfakeovi s njezinim licem postali su viralni i pregledani su milijunima puta na X-u i Telegramu. Zbog tog incidenta, tim The Vergea odabrao je upravo Taylor Swift za testiranje Grok Imaginea.

"Pretpostavili smo – sada pogrešno – da bi, ako su uspostavili bilo kakve zaštitne mjere... ona bila prva na popisu, s obzirom na probleme koje su imali", rekla je Weatherbed. Tada je X privremeno blokirao pretraživanja njezinog imena i tvrdio da "aktivno uklanja" slike. Predstavnici Taylor Swift također su kontaktirani za komentar.