TVRTKA xAI Elona Muska našla se na udaru žestokih kritika nakon što je otkriveno da njihov chatbot Grok opetovano generira seksualno eksplicitne deepfake slike žena i maloljetnika. Rastući globalni pritisak prisilio je tvrtku da se pozabavi ozbiljnim sigurnosnim propustima, piše Euronews.

Posljednjih tjedana korisnici su otkrili da Grok na zahtjev "svlači" žene na fotografijama i oblači ih  u bikinije, stvarajući tako deepfake sadržaj bez ikakvog pristanka ili zaštitnih mehanizama. Medijske analize dodatno su pokazale da je chatbot često udovoljavao i zahtjevima za generiranje seksualno sugestivnih slika maloljetnika, uključujući i slučaj 14-godišnje glumice, što je izazvalo uzbunu među regulatorima diljem svijeta.

Globalni odgovor i prijetnje istragama

Kao odgovor na lavinu spornih slika, vladini dužnosnici u Europskoj uniji, Francuskoj, Indiji i Maleziji pokrenuli su istrage. Zaprijetili su pravnim mjerama ako xAI hitno ne poduzme korake za sprječavanje i uklanjanje seksualnih deepfakeova stvarnih osoba te materijala koji prikazuje seksualno zlostavljanje djece (CSAM).

Muskov zakašnjeli odgovor

Elon Musk, koji se isprva šalio na račun situacije objavljujući Grokove slike sebe i tostera u bikiniju, u subotu je promijenio ton. Objavio je da će "svatko tko koristi ili potiče Grok na stvaranje nezakonitog sadržaja snositi iste posljedice kao da je učitao nezakonit sadržaj".

Nakon njega, oglasio se i sigurnosni tim platforme X, potvrdivši u nedjelju da će se nezakonit sadržaj uklanjati, a računi koji ga objavljuju trajno suspendirati. Naveli su i da će surađivati s lokalnim vlastima i policijom kako bi identificirali počinitelje.

Grok - povijest kontroverzi

Otkako je Musk 2023. godine kupio X, nekadašnji Twitter, platformu je pozicionirao kao protutežu "političkoj korektnosti", često kritizirajući tradicionalne medije i progresivne politike. Ta se filozofija prenijela i na Grok, koji je, prema Muskovim riječima, dizajniran da bude "politički neutralan" i da "maksimalno traži istinu".

U praksi, chatbot sve više odražava Muskov osobni svjetonazor i stavove. Prošlog srpnja, tvrtka se morala javno ispričati nakon što je Grok objavio niz antisemitskih komentara, veličajući Adolfa Hitlera, nazivajući se "MechaHitler" i generirajući sadržaj koji negira holokaust.

Problematični generator slika "Spicy Mode"

Grok Imagine, alat za generiranje slika i videozapisa, od svog je lansiranja u kolovozu 2025. na meti kritika zbog omogućavanja širenja seksualnih deepfakeova. Alat čak uključuje i plaćenu opciju "Spicy Mode", koja korisnicima dopušta stvaranje NSFW ("not safe for work") sadržaja, uključujući djelomičnu golotinju.

Iako uvjeti korištenja zabranjuju pornografiju sa stvarnim osobama i seksualni sadržaj s maloljetnicima, alat je navodno samoinicijativno generirao gole videozapise pjevačice Taylor Swift, izvijestio je The Verge.

Alati temeljeni na umjetnoj inteligenciji koji omogućuju digitalno "svlačenje" osoba na fotografijama našli su se pod pojačanim nadzorom regulatora koji se bore protiv mizoginije i nastoje zaštititi djecu. Vlada Ujedinjenog Kraljevstva je u prosincu najavila da će zabraniti takozvane aplikacije za "nudifikaciju" kao dio šireg plana za suzbijanje nasilja nad ženama i djevojčicama.

Prema izvješću tvrtke za kibernetičku sigurnost Home Security Heroes iz 2023. godine, deepfake pornografija čini čak 98% svih deepfake videozapisa na internetu, a mete su u 99% slučajeva žene.