Oporbene stranke u Italiji podnijele su prijavu nadzornom tijelu za komunikacije zbog niza fotografija generiranih umjetnom inteligencijom koje je na društvenim mrežama objavila krajnje desna Liga, stranka zamjenika premijera Mattea Salvinija, a koje su nazvali rasističkima, islamofobnima i ksenofobnima, piše Guardian.
Demokratska stranka (PD), sa Savezom Zelenih i Ljevice, jučer je podnijela prijavu talijanskom regulatornom tijelu za komunikacije Agcomu, tvrdeći da lažne slike koje koristi Liga obuhvaćaju gotovo sve kategorije govora mržnje. Tijekom proteklog mjeseca, deseci slika koje izgledaju kao da su ih generirali AI alati pojavili su se na društvenim kanalima Lige, uključujući Facebook, Instagram i X. Slike često prikazuju muškarce tamnije puti, obično naoružane noževima, kako napadaju žene ili policajce.
"Na slikama koje je objavila Salvinijeva stranka, a koje su generirane umjetnom inteligencijom, prisutne su gotovo sve kategorije govora mržnje, od rasizma i ksenofobije do islamofobije. Koriste umjetnu inteligenciju kako bi ciljali određene skupine ljudi, imigrante, Arape, prikazujući ih kao potencijalne kriminalce, lopove i silovatelje. Te slike nisu samo nasilne, već i obmanjujuće.
Zamagljivanjem lica žrtava kao da žele zaštititi identitet napadnutih osoba, što korisnike navodi na zaključak da su fotografije stvarne. To su slike koje potiču mržnju", rekao je Antonio Nicita, senator Demokratske stranke (PD).
"Ovo je ozbiljno", dodao je Francesco Emilio Borrelli, zastupnik Saveza Zelenih i Ljevice. "AI generira sadržaj prema našim uputama, a u ovom slučaju je očito dobio zadatak da generira slike crnih ljudi koji pljačkaju staricu ili prestravljenu ženu. To je dio njihove strategije stvaranja straha među građanima", izjavio je.
Glasnogovornik Salvinijeve stranke potvrdio je da su neke od slika objavljenih na njihovim društvenim mrežama digitalno generirane. "Nije poanta u slici. Poanta je u činjenici. Svaka objava temelji se na stvarnim izvještajima iz talijanskih novina, s imenima, datumima i mjestima.
Ako se stvarnost čini previše surovom, ne treba kriviti one koji na nju ukazuju, već one koji je takvom čine. Ako se radi o zločinu, teško je vijest popratiti vedrim ili umirujućim slikama", poručio je u objavi.
Salvatore Romano, voditelj istraživanja u neprofitnoj organizaciji AI Forensics, izjavio je da fotografije koje objavljuje Liga pokazuju sve karakteristike umjetne inteligencije. "To su fotografije izvan konteksta, na kojima je subjekt u prvom planu, dok je pozadina potpuno zamagljena. Ono što me zabrinjava jest to što postaju sve realističnije", rekao je Romano.
U prijavi upućenoj Agcomu navodi se više primjera slika za koje se sumnja da su digitalno generirane, a koje su se pojavile uz logotipe uglednih medijskih kuća koje su doista izvještavale o tim zločinima, no nisu objavile fotografije osumnjičenih.
U jednom slučaju, objava Lige glasi "Stranac napao konduktera", uz fotografiju muškarca tamnije puti s podignutom šakom. Izvorni naslov u Il Resto del Carlino glasi "Napao kondukterku i izazvao paniku u vlaku", a u tekstu se počinitelja opisuje samo kao stranca, bez navođenja nacionalnosti. Nije objavljena nijedna fotografija napada.
Druga sporna fotografija, navedena u prijavi, prikazuje majku i oca u islamskoj odjeći kako viču na djevojčicu, čime se, kažu, potiču rasne i islamofobne predrasude. U izvještaju lista Il Giorno, koji je Liga navela kao izvor, nema ni riječi o vjeri obitelji ni djevojčice koju su roditelji navodno zlostavljali, osim što se spominje da je dijete pohađalo školu arapskog jezika. Također nije objavljena fotografija obitelji.
Korištenje fotografija generiranih umjetnom inteligencijom u propagandne svrhe postaje sve raširenije među krajnje desnim strankama, a u širu je upotrebu ušlo oko prošlih europskih izbora, kada su se po društvenim mrežama počele širiti fotografije koje izazivaju strah od migracija ili demoniziraju političare poput Emmanuela Macrona.
"Onda su došli američki izbori, s Donaldom Trumpom i Elonom Muskom, koji su praktički normalizirali taj trend", rekao je Romano. "Danas vidimo da krajnje desne stranke ne samo da i dalje generiraju lažne fotografije u propagandne svrhe, već su i pojačale njihovo korištenje u trenutku kada su alati umjetne inteligencije znatno poboljšali kvalitetu sadržaja, što ovaj fenomen čini još više zabrinjavajućim", dodao je.
Iako društvene platforme imaju obvezu poduzimanja mjera protiv ovakvih rizika, primjerice, označavanjem fotografija koje su generirane AI-jem, Romano kaže da je ta praksa gotovo uvijek neučinkovita. Na pitanje je li Liga svjesna da bi objavljene slike mogle potaknuti govor mržnje, glasnogovornik Salvinijeve stranke imao je spreman odgovor.
"Žao nam je, ali naše suosjećanje ide žrtvama, a ne počiniteljima. Ako je prijavljivanje zločina koje su počinili stranci ksenofobija, onda možda problem nije u riječi, nego u onima koji je koriste da bi cenzurirali raspravu. Nastavit ćemo prijavljivati, snažnim riječima i fotografijama, ono što drugi radije ignoriraju", poručio je.
Ako Agcom ocijeni da je sadržaj uvredljiv, može, prema pravilima Zakona EU o digitalnim uslugama, naložiti uklanjanje objava, zatvaranje računa i kazniti društvene mreže zbog nedovoljne kontrole korisničkog ponašanja.
Godine 2023. Agcom je kaznio Metu s 5,85 milijuna eura i naložio uklanjanje desetaka računa zbog kršenja zabrane oglašavanja kockanja. Meta, vlasnik Facebooka i Instagrama, zamoljena je za komentar. "Nismo zakonski obvezni označiti svaku fotografiju generiranu umjetnom inteligencijom. Jasno je da se ovdje radi o političkom marketingu.
Budite uvjereni da nam je važno očuvanje autentičnosti rasprava na X-u i da smo spremni boriti se protiv manipuliranih medijskih sadržaja, uključujući sve rašireniju pojavu deepfakeova te jasno označiti svaki takav sadržaj za koji vjerodostojan izvor dokaže da je lažan", oglasio se glasnogovornik X-a.