Milijuni ljudi diljem svijeta stvaraju i dijele lažne pornografske snimke, takozvane deepfakeove, na zaštićenoj aplikaciji za razmjenu poruka Telegram, dok širenje naprednih alata umjetne inteligencije (AI) dovodi do industrijalizacije zlostavljanja žena putem interneta. Analiza je identificirala najmanje 150 Telegram kanala koji djeluju u brojnim zemljama, od Ujedinjenog Kraljevstva i Brazila do Kine, Nigerije, Rusije i Indije, piše The Guardian.
Neki od tih kanala nude uslugu "svlačenja" fotografija ili videozapisa uz naknadu: korisnici mogu poslati fotografiju bilo koje žene, a AI će stvoriti video u kojem ta žena izvodi seksualne radnje. Mnogi drugi kanali nude stalni priljev slika - slavnih osoba, influencerica i običnih žena - koje su AI alati "razodjenuli" ili montirali u seksualne činove. Korisnici se na tim kanalima također savjetuju o dostupnim deepfake alatima.
Iako kanali za distribuciju intimnih snimki bez pristanka na Telegramu postoje već dugo, široka dostupnost AI alata znači da bilo tko može u trenu postati predmet eksplicitnog seksualnog sadržaja vidljivog milijunima ljudi.
Na jednom Telegram kanalu na ruskom jeziku, koji oglašava deepfake "curenja" blogerica i slavnih osoba, objava o AI botu za "svlačenje" obećavala je "neuronsku mrežu koja ne poznaje riječ 'ne'". "Odaberite poze, oblike i lokacije. Učinite s njom sve što ne možete u stvarnom životu", stajalo je u oglasu.
Na kanalu na kineskom jeziku s gotovo 25.000 pretplatnika muškarci su dijelili videozapise svojih "prvih ljubavi" ili "najboljih prijateljica svojih djevojaka", koje su pomoću AI alata natjerali da se skinu. Mreža Telegram kanala usmjerenih na nigerijske korisnike širi deepfake sadržaj zajedno sa stotinama ukradenih stvarnih intimnih slika.
Telegram je aplikacija za sigurnu razmjenu poruka koja korisnicima omogućuje stvaranje grupa ili kanala za emitiranje sadržaja neograničenom broju kontakata. Prema uvjetima korištenja, korisnicima je zabranjeno objavljivati "nezakonit pornografski sadržaj" na javno vidljivim kanalima, kao i "sudjelovati u aktivnostima koje su u većini zemalja prepoznate kao nezakonite".
Podaci neovisne analitičke platforme Telemetr.io pokazuju da je Telegram ugasio niz kanala za "svlačenje". Iz Telegrama su za The Guardian izjavili da su deepfake pornografija i alati za njezino stvaranje izričito zabranjeni njihovim uvjetima korištenja.
"Takav sadržaj se rutinski uklanja kad god se otkrije. Moderatori opremljeni prilagođenim AI alatima proaktivno nadziru javne dijelove platforme i prihvaćaju prijave korisnika kako bi uklonili sadržaj koji krši naše uvjete korištenja", poručili su iz tvrtke, dodajući da su u 2025. godini uklonili više od 952.000 spornih materijala.
Posljednjih tjedana, korištenje AI alata za stvaranje seksualiziranih deepfakeova dospjelo je u središte javnosti nakon što je od Groka, AI chatbota na društvenoj mreži X Elona Muska, zatraženo da stvori tisuće slika žena u bikinijima bez njihovog pristanka.
Zbog burne reakcije javnosti, Muskova tvrtka xAI objavila je da će onemogućiti Groku uređivanje slika stvarnih ljudi, a britanski medijski regulator Ofcom pokrenuo je istragu protiv X-a.
Ipak, postoji cijeli niz foruma, web stranica i aplikacija, uključujući Telegram, koji milijunima ljudi omogućuju jednostavan pristup i stvaranje eksplicitnog sadržaja bez pristanka. Izvješće koje je objavio Tech Transparency Project otkrilo je da su deseci aplikacija za "svlačenje" dostupni u trgovinama Google Play i Apple App Store te da su zajedno preuzete 705 milijuna puta.
Glasnogovornik Applea rekao je da je tvrtka uklonila 28 od 47 aplikacija koje je identificirao Tech Transparency Project, dok je Googleov glasnogovornik naveo da je "većina aplikacija" suspendirana te da je istraga u tijeku.
Telegram kanali okosnica su šireg internetskog ekosustava posvećenog stvaranju i širenju intimnih slika bez pristanka, rekla je Anne Craanen, istraživačica s londonskog Instituta za strateški dijalog. Objasnila je da ti kanali omogućuju korisnicima da zaobiđu kontrole većih platformi poput Googlea i dijele savjete o tome kako izbjeći zaštitne mjere AI modela.
"No, širenje ovog materijala je druga strana priče", rekla je. "To dijeljenje s drugim muškarcima i hvalisanje time, taj slavljenički aspekt, također je vrlo važan. To doista pokazuje mizoginu pozadinu svega. Time pokušavaju kazniti žene ili ih ušutkati."
Prošle godine Meta je ugasila talijansku Facebook grupu "Mia Moglie" (Moja žena) u kojoj su muškarci dijelili intimne slike svojih partnerica i drugih žena. Prije gašenja, grupa je imala oko 32.000 članova.
Ipak, istraživački bilten Indicator otkrio je da Meta nije uspjela zaustaviti protok oglasa za AI alate za "svlačenje" na svojim platformama. Glasnogovornik Mete izjavio je da uklanjaju oglase koji krše njihove politike.
AI alati pojačali su globalni porast internetskog nasilja nad ženama, omogućujući gotovo svakome da stvara i dijeli uvredljive slike. U mnogim pravnim sustavima, posebno na globalnom jugu, postoji malo zakonskih mehanizama za pozivanje počinitelja na odgovornost.
Prema podacima Svjetske banke iz 2024., manje od 40% zemalja ima zakone koji štite žene od internetskog uznemiravanja. UN procjenjuje da 1,8 milijardi žena i djevojaka još uvijek nema pravnu zaštitu.
Nedostatak regulacije samo je jedan od razloga zašto su žene u zemljama s niskim prihodima posebno ranjive, kažu aktivisti. Problemi poput niske digitalne pismenosti i siromaštva mogu povećati rizike.
Ugochi Ihe iz nigerijske organizacije TechHer navodi slučajeve u kojima su žene koje su posuđivale novac putem aplikacija za zajmove postale žrtve ucjene muškaraca koji koriste AI.
Posljedice digitalnog zlostavljanja u stvarnom životu su razorne, uključujući probleme s mentalnim zdravljem, izolaciju i gubitak posla. "Ovakve stvari su stvorene da unište život mlade djevojke", rekla je Mercy Mutemi, odvjetnica iz Kenije koja zastupa četiri žrtve deepfake zlostavljanja.
Nekim njezinim klijenticama odbijene su ponude za posao i suočile su se s disciplinskim postupcima u školi, sve zbog lažnih slika koje su kružile bez njihovog pristanka. Ihe je dodala da je njezina organizacija rješavala slučajeve žena koje su njihove obitelji izopćile nakon prijetnji intimnim slikama s Telegram kanala.
"Jednom kad takav sadržaj izađe u javnost, nema povratka vašeg dostojanstva, vašeg identiteta. Čak i ako počinitelj prizna da je riječ o deepfakeu, ne možete znati koliko je ljudi to vidjelo. Šteta za ugled je nepopravljiva", zaključila je.