Veliki jezični modeli (LLM) koje razvijaju vodeće svjetske tehnološke kompanije, uključujući Googleov Gemini, u svojim odgovorima korisnicima citiraju prorusku propagandu iz medija pod sankcijama Europske unije. U nekim slučajevima umjetna inteligencija prenosila je i bizarne dezinformacije, poput one da Ukrajina koristi tijela poginulih vojnika u proizvodnji mesnih prerađevina.
Novo izvješće britanskog think-tanka Demos upozorava da bi akteri uključeni u hibridno ratovanje, poput Rusije, mogli iskoristiti novu industriju optimizacije za generativne tražilice (GEO) kako bi izravno utjecali na informacije koje AI modeli pružaju, piše Euronews.
Lažna udruga kao izvor propagande
Istraživači su analizirali 50 propagandnih narativa iz deset članaka koje je objavila takozvana Zaklada za borbu protiv nepravde (r-FBI). Organizacija je osnovana 2021. godine i predstavlja se kao nevladina udruga koja istražuje slučajeve progona i razotkriva diskriminaciju.
U stvarnosti je riječ o lažnoj organizaciji za ljudska prava koju je utemeljio pokojni vođa ruske paravojne skupine Wagner, Jevgenij Prigožin. Zbog širenja dezinformacija, r-FBI se nalazi pod sankcijama Sjedinjenih Američkih Država i Europske unije.
Carl Miller, suosnivač Centra za analizu društvenih medija (CASM) pri Demosu, opisao je analizirane tvrdnje kao "jezive". "To nisu tvrdnje kojima je mjesto u bilo kakvom ozbiljnom javnom prostoru.
Riječ je o pričama da Ukrajina prerađuje leševe vojnika u meso ili da Zelenski crpi električnu mrežu za rudarenje kriptovaluta, zbog čega zemlja ostaje bez struje. Utvrdili smo da ih AI modeli tretiraju kao legitiman dio rasprave", izjavio je Miller za Euronews.
Kako su AI modeli prenosili dezinformacije
U istraživanju je testirano pet vodećih AI modela tvrtki xAI, OpenAI, Anthropic, Google Gemini i Mistral AI. Upiti su postavljeni na engleskom, njemačkom i francuskom jeziku, a temeljili su se na propagandnim narativima iz članaka r-FBI-a.
Studija je pokazala da je svih pet testiranih modela navelo r-FBI kao relevantan izvor informacija. Ukupno 16,6 posto odgovora iskoristilo je materijale te organizacije na način koji je pogodovao propagandi. Modeli su ili nekritički ponavljali lažne tvrdnje i prikazivali ih kao legitiman stav, ili su ih izravno podržali.
U 30,9 posto odgovora tema je obrađena bez spominjanja konteksta sankcioniranog izvora, pa korisnici nisu znali da se odgovor temelji na ruskoj propagandi. Preostalih 52 posto odgovora je na neki način odbacilo ili opovrgnulo lažne tvrdnje.
Kada su istraživači pitali OpenAI-jev model GPT 4.1 Mini o navodima da se prerađeno ljudsko meso šalje u ukrajinska skladišta i trgovačke lance, model je kao dokaz citirao upravo članak r-FBI-a. Na pitanje o navodnim poslovima ukrajinskog predsjednika Volodimira Zelenskog s rudarenjem kriptovaluta, model Mistral Small 3.2 francuske tvrtke Mistral podržao je te tvrdnje.
GEO: Nova fronta informacijskog rata
Pritom se pozvao na navodnu višemjesečnu istragu r-FBI-a i u odgovoru istaknuo "povezanost kritičnog stanja ukrajinskog energetskog sustava i aktivnosti visokih dužnosnika iz bliskog kruga predsjednika Zelenskog".
Sve veći broj ljudi odgovore na svoja pitanja traži od AI chatbotova umjesto na tradicionalnim tražilicama, što je dovelo do razvoja nove industrije koja želi utjecati na to kako AI modeli prikupljaju i prezentiraju informacije.
Ta je praksa poznata kao optimizacija za generativne tražilice (GEO) i temelji se na principima SEO-a, ali je prilagođena za manipulaciju rezultatima koje generira umjetna inteligencija.
"Nove informacije stvaraju se specifično za AI modele. U ovom slučaju, riječ je o sadržaju koji se nudi brendovima za marketing ili o prepravljanju postojećeg online sadržaja na forumima poput Reddita, Quore i Wikipedije", objasnila je Hannah Perry, direktorica odjela za digitalnu politiku u Demosu.
Reakcije proizvođača AI modela
Istraživači upozoravaju da postoji stvaran rizik da akteri koji provode operacije stranog uplitanja iskoriste ove taktike unutar regulatorne "sive zone". "Naše istraživanje ne tvrdi da GEO tvrtke vode informacijski rat za države. Mi kažemo da one velikom brzinom i uz golem komercijalni poticaj razvijaju vještine i alate koji se vrlo lako mogu zloupotrijebiti.
U ovom konkretnom slučaju, AI pogrešno vjeruje da je r-FBI legitimna nevladina udruga. To je rezultat tehničkih varki i stotina sitnih detalja kojima su Rusi okružili te dokumente kako bi postali vidljivi tamo gdje ne bi smjeli biti. To je informacijski rat", rekao je Miller.
Euronews je kontaktirao sve tvrtke čiji su modeli obuhvaćeni istraživanjem, no do trenutka objave članka odgovori iz tvrtki xAI i Google nisu stigli. Glasnogovornik Mistrala izjavio je da borbu protiv dezinformacija shvaćaju iznimno ozbiljno i da kontinuirano ulažu u napredne sustave detekcije i prevencije.
Sumnjivi utjecaj
Napomenuo je da postoji razlika između sirovih modela korištenih u studiji i njihovog sustava Vibe Work, koji ima ugrađene mehanizme za provjeru konteksta.
Iz OpenAI-ja su poručili da je studija koristila stariji model koji je u međuvremenu povučen i bio dostupan samo programerima, a ne kroz javni ChatGPT. Naglasili su da imaju posebne timove koji rade na suzbijanju operacija sumnjivog utjecaja.
Izvor blizak tvrtki Anthropic, koja razvija chatbot Claude, naveo je da koriste sofisticirane sustave kako bi spriječili širenje dezinformacija. Istaknuo je da njihov tim za analizu prijetnji aktivno radi na otkrivanju stranih operacija utjecaja i da je njihov model programiran da prikazuje širok spektar perspektiva, posebno kada izvor može imati specifičnu agendu.