STOTINE računa na TikToku prikupljaju milijarde pregleda objavljivanjem sadržaja stvorenog umjetnom inteligencijom, a među njim se nalaze i antiimigrantski te seksualizirani materijali, otkriva novo izvješće. Istraživači su identificirali stotine takvih računa koji u samo mjesec dana mogu dosegnuti i do 4,5 milijardi pregleda, piše The Guardian.

Neprofitna organizacija AI Forensics sa sjedištem u Parizu otkrila je 354 računa usmjerena na umjetnu inteligenciju koji su tijekom jednomjesečnog razdoblja objavili 43 tisuće videozapisa i prikupili nevjerojatnih 4,5 milijardi pregleda.

Prema izvješću, neki od tih računa pokušavaju manipulirati TikTokovim algoritmom objavljivanjem ogromne količine sadržaja u nadi da će postati viralan. Jedan od njih objavljivao je sadržaj čak 70 puta dnevno, što ukazuje na automatizaciju. Većina analiziranih računa pokrenuta je početkom ove godine.

Seksualizirani sadržaj i lažne vijesti

Od najaktivnijih računa, polovica se fokusirala na sadržaj povezan sa ženskim tijelom. "Ove AI žene uvijek su stereotipno privlačne, sa seksualiziranom odjećom ili dekolteom", navodi se u izvješću. Dio sadržaja širio je i lažne vijesti s antiimigrantskim narativima te materijal koji seksualizira ženska tijela, uključujući i djevojke koje su izgledale maloljetno.

Neki od videozapisa s lažnim vijestima koristili su vizualni identitet poznatih medijskih kuća poput Sky Newsa i ABC-a. Nakon što ih je Guardian prijavio TikToku, neke od tih objava su uklonjene. AI Forensics je utvrdio da polovica objavljenog sadržaja nije bila označena kao AI-generirana, a manje od 2% nosilo je službenu TikTokovu oznaku.

Istraživači upozoravaju da to povećava obmanjujući potencijal materijala te dodaju da su neki računi mjesecima izbjegavali moderaciju unatoč kršenju uvjeta korištenja. Deseci računa obuhvaćenih studijom naknadno su izbrisani, što sugerira da su ih moderatori uklonili.

TikTok: "Neutemeljene tvrdnje"

Iz TikToka su poručili da su tvrdnje iz izvješća "neutemeljene" te da su istraživači izdvojili njihovu platformu zbog problema koji pogađa cijelu industriju. Prošlog mjeseca, TikTok je otkrio da je na platformi bilo najmanje 1,3 milijarde objava generiranih umjetnom inteligencijom.

"Na TikToku uklanjamo štetan AIGC [sadržaj generiran umjetnom inteligencijom], blokiramo stvaranje stotina milijuna bot računa, ulažemo u vodeće tehnologije AI-označavanja u industriji i osnažujemo ljude alatima i edukacijom kako bi kontrolirali svoje iskustvo s ovim sadržajem na našoj platformi", rekao je glasnogovornik tvrtke.

Najpopularniji računi koje je AI Forensics istaknuo objavljivali su takozvani "slop" - termin za besmislen i bizaran sadržaj stvoren umjetnom inteligencijom s ciljem da zatrpa feedove društvenih mreža. Primjeri uključuju životinje koje se natječu u olimpijskim skokovima u vodu ili bebe koje govore. Istraživači su priznali da je dio takvog sadržaja bio "zabavan" i "sladak".

Potrebna bolja rješenja

Istraživači su analizirali podatke prikupljene od sredine kolovoza do sredine rujna. Upozorili su da zamagljivanje granice između autentičnog ljudskog i sintetičkog sadržaja signalizira zaokret prema sve većoj prisutnosti umjetne inteligencije u korisničkim feedovima.

Iz AI Forensicsa pozdravljaju TikTokovu odluku da korisnicima omogući ograničavanje AI sadržaja, ali ističu da se označavanje mora poboljšati. "Platforme moraju ići dalje od slabih ili opcionalnih oznaka 'AI sadržaja' i razmotriti odvajanje generativnog sadržaja od ljudski stvorenog materijala, ili pronaći pošten sustav koji provodi sustavno i vidljivo označavanje AI sadržaja", zaključili su.