U NEKIM dijelovima interneta, na nišnim portalima i kanalima društvenih mreža, britanska učenica generirana umjetnom inteligencijom postala je svojevrsni fenomen.

Njezino ime je Amelia, djevojka ljubičaste kose koja ponosno nosi malu zastavu Ujedinjenog Kraljevstva i, čini se, ima sklonost rasizmu. Avatar, koji je izvorno stvoren kako bi odvratio mlade od ekstremizma, sada je preinačen u viralni meme krajnje desnice koji se širi društvenim mrežama, piše The Guardian.

Tko je Amelia?

Videozapisi s Amelijom obično je prikazuju kako hoda Londonom ili Donjim domom britanskog parlamenta, izjavljuje ljubav prema Engleskoj i upozorava na opasnosti od "militantnih muslimana" ili "migranata iz trećeg svijeta". U jednom isječku, bradati muškarac u islamskoj odjeći prigovara joj jer jede svinjsku kobasicu.

Iako je poruka poznata na krajnje desnim društvenim mrežama, upravo je stvaranje Amelije putem umjetne inteligencije učinilo lik beskrajno prilagodljivim. To je pokrenulo viralni internetski trend u kojem svatko s pristupom popularnim chatbotovima može sudjelovati. Korisnici platforme X okrenuli su se alatu Grok AI kako bi stvorili tolike količine Amelijinih memeova da ona sada izlazi iz uskih internetskih niša.

Ironičan početak

Podrijetlo lika je, u najmanju ruku, ironično. Rana verzija Amelije nastala je u videoigri za borbu protiv ekstremizma koju je financiralo Ministarstvo unutarnjih poslova Ujedinjenog Kraljevstva. Igra je stvorena kako bi odvratila mlade u dobi od 13 do 18 godina od privlačnosti krajnje desnog ekstremizma u Yorkshireu.

Igra naziva *Pathways: Navigating the Internet and Extremism* jednostavnog je formata s višestrukim izborom i osnovnom animacijom. Igrači preuzimaju uloge likova na fakultetu i donose odluke u scenarijima koji uključuju preuzimanje potencijalno ekstremističkog sadržaja ili pridruživanje Ameliji na skupu koji organizira "mala politička skupina" prosvjedujući protiv društvenih promjena i "erozije britanskih vrijednosti". Određeni scenariji u igri rezultiraju upućivanjem na britanski vladin program za borbu protiv terorizma Prevent.

Eksplozija na internetu

Međutim, upravo je subverzija lika Amelije eksplodirala na društvenim mrežama na način koji je zapanjio čak i kreatore originalne igre. Među mnoštvom sve sofisticiranijih verzija generiranih umjetnom inteligencijom nalaze se Amelia u manga stilu, susreti "iz stvarnog života" između nje i likova iz serija poput Oca Teda ili filmova poput Harryja Pottera, popraćeni rasističkim jezikom i porukama krajnje desnice.

Analiza koju je za Guardian provela britanska tvrtka za praćenje dezinformacija Peryton Intelligence pokazala je da je anonimni račun, poznat po vještom širenju poruka krajnje desnice, započeo Amelijin meme na platformi X 9. siječnja objavom koja je od tada pregledana 1,4 milijuna puta. Broj objava o Ameliji od tada je porastao s prosječnih 500 dnevno na otprilike 10.000, počevši od 15. siječnja, kada je meme dosegao međunarodnu publiku. U srijedu je samo na X-u zabilježeno 11.137 objava.

Monetizacija mržnje

U jednom od najnadrealnijih obrata, pojavila se i Amelijina kriptovaluta, a korisnici društvenih mreža nastoje unovčiti rastući profil memea. U srijedu je Elon Musk podijelio objavu X računa koji promovira Amelijin kripto token.

"Ono što vidimo je monetizacija mržnje", rekao je Matteo Bergamini, osnivač i izvršni direktor tvrtke Shout Out UK, koja se bavi obukom o političkoj i medijskoj pismenosti i koja je stvorila originalnu igru. "Vidjeli smo Telegram grupe kako si međusobno šalju poruke na kineskom o meme kovanici i razgovaraju o tome kako umjetno napuhati njezinu vrijednost, tako da se zarađuje mnogo novca." Sama tvrtka bila je meta poplave poruka mržnje, uključujući prijetnje koje su sada prijavljene policiji.

Reakcija kreatora

Bergamini ističe da originalna inicijativa nikada nije trebala biti samostalna igra, već je bila namijenjena korištenju u učionicama uz niz nastavnih materijala, što je, kako kaže, u izvještavanju i komentarima zanemareno. "Nažalost, bilo je mnogo pogrešnog predstavljanja", rekao je. "Igra, na primjer, ne navodi da je propitivanje masovnih migracija inherentno pogrešno."

Drugi su sugerirali da se inicijativa izjalovila, između ostalog i time što je "slatku goth djevojku" prikazala kao negativan lik, zbog čega je nenamjerno postala predmetom divljenja. No Bergamini je rekao da se igra - koja je koristila povratne informacije fokus grupa s mladima i razvijena je imajući na umu specifičnu lokalnu prijetnju - i dalje koristi, a povratne informacije iz škola i drugih izvora bile su pozitivne.

Ipak, brzina i sofisticiranost stvaranja navodno subverzivnih Amelijinih memeova na internetu iznenadile su ga. "Ovo iskustvo nam je pokazalo zašto je ovaj rad iznimno važan, ali nam također daje razlog za razmišljanje o našoj sigurnosti u provođenju ovog rada zbog vrlo sofisticirane koordinacije onih koji profitiraju od mržnje", rekao je.

Međunarodni fenomen

Siddharth Venkataramakrishnan, analitičar s Instituta za strateški dijalog (ISD), izjavio je: "Vidjeli smo da se meme izvanredno širi i proliferira među krajnjom desnicom i šire, ali ono što je također vrijedno pažnje je kako je sada međunarodan. Na neki način, to dotiče srž onoga što bismo mogli nazvati 'disidentskom' krajnjom desnicom - pojedinaca koji se pozicioniraju izvan mainstream političke scene. Cijeli ekosustav ga je prihvatio. Jasno je da je seksualizirana ikonografija također ključna za to. Ciljana publika su gotovo isključivo mladi muškarci."

Odgovor ministarstva

Ministarstvo unutarnjih poslova priopćilo je da je program Prevent odvratio gotovo 6.000 ljudi od nasilnih ideologija. Dodali su da su projekti poput igre Pathways osmišljeni za ciljanje lokalnih rizika radikalizacije te su stvoreni i isporučeni neovisno o vladi.