BIVŠA voditeljica proizvodnje Facebooka Frances Haugen u svojem svjedočenju pred američkim senatom 5. listopada 2021. godine ustvrdila je da društvene platforme te kompanije "štete djeci, potpiruju podjele i slabe demokraciju".

Haugen je bila primarni izvor za pisanje Wall Street Journala o Facebooku. Facebookove algoritme opisala je opasnima. Rekla je da su rukovoditelji Facebooka svjesni problema, no da su stavili profit ispred ljudi te je pozvala Kongres da regulira tvrtku.

Kako točno platforme društvenih medija štete ljudima, za The Conversation je objasnio informatički stručnjak Filippo Menczer.

U nastavku prenosimo njegov tekst:

Pri odlučivanju o sadržaju koji će prikazati korisnicima platforme društvenih medija uglavnom se oslanjaju na znanje o ponašanju ljudi. Konkretno, one traže sadržaj na koji ljudi odgovaraju, odnosno na koji reagiraju lajkom, komentiranjem i dijeljenjem. Farme trolova, organizacije koje šire provokativne sadržaje, to iskorištavaju tako što kopiraju sadržaje s velikim angažmanom i objavljuju ih kao vlastite, što im pomaže da dopru do široke publike.

Kao računalni znanstvenik koji proučava načine komunikacije velikog broja ljudi uz pomoć tehnologije, razumijem logiku korištenja mudrosti masa u tim algoritmima. Također vidim značajne zamke u tome kako to društvene mreže rade u praksi.

Od lavova u savani do lajkova na Facebooku

Koncept mudrosti gomile temelji se na ideji da će korištenje signala koji proizlaze iz tuđih postupaka, mišljenja i preferencija kao vodiča dovesti do dobrih odluka. Primjerice, poznato je da su kolektivna predviđanja obično točnija od pojedinačnih. Kolektivna inteligencija koristi se za predviđanje kretanja na financijskim tržištima, sportskih rezultata, rezultata izbora, pa čak i izbijanja zaraznih bolesti.

Kroz milijune godina evolucije ti principi kodirani su u ljudski mozak u obliku kognitivnih predrasuda. Primjerice, ako svi počnu trčati, trebali biste i vi, jer su možda ljudi vidjeli lava kako dolazi i stoga su potrčali, pa bi i vama to moglo spasiti život. Možda ne znate zašto trčite, no mudrije je prvo trčati pa pitati kasnije.

Vaš mozak hvata signale iz okoline - uključujući one koji dolaze od vaših sugrađana - i koristi jednostavna pravila za brzo prevođenje tih signala u odluke: idite s pobjednikom, slijedite većinu, kopirajte svog susjeda. Ta pravila iznimno dobro funkcioniraju u tipičnim situacijama jer se temelje na zdravim pretpostavkama. Na primjer, pretpostavljaju da se ljudi često ponašaju racionalno, da je malo vjerojatno da mnoštvo griješi, da prošlost predviđa budućnost itd.

Tehnologija ljudima omogućuje pristup signalima mnogo većeg broja drugih ljudi, od kojih većinu ne poznaju. Aplikacije za umjetnu inteligenciju uvelike koriste te signale popularnosti ili "angažmana", od odabira rezultata tražilice do preporuke glazbe i videozapisa te od predlaganja prijatelja do rangiranja vijesti koje će vam se prikazivati.

Ne zaslužuje sve biti viralno

Naše istraživanje pokazuje da gotovo sve platforme web-tehnologije, poput društvenih medija i sustava za preporuke vijesti, imaju snažnu pristranost prema popularnosti. Kad aplikacije pokreću znakovi poput angažmana, a ne eksplicitni upiti tražilice, pristranost prema popularnosti može dovesti do štetnih neželjenih posljedica.

Društveni mediji poput Facebooka, Instagrama, Twittera, YouTubea i TikToka uvelike se oslanjaju na algoritme umjetne inteligencije za rangiranje i preporučivanje sadržaja. Ti algoritmi uzimaju kao ulaz ono što volite, komentirate i dijelite - drugim riječima, sadržaje kojima se bavite. Cilj algoritama je maksimizirati angažman tako što će otkriti što se ljudima sviđa i rangirati ga na vrhu svojih feedova.

Na prvi pogled to se čini razumnim. Ako ljudi vole vjerodostojne vijesti, mišljenja stručnjaka i zabavne videozapise, ti bi algoritmi trebali identificirati takve kvalitetne sadržaje. No, mudrost gomile ovdje stvara ključnu pretpostavku: da će preporučivanje popularnog pomoći visokokvalitetnom sadržaju da nabuja.

Ovu smo pretpostavku testirali proučavajući algoritam koji rangira sadržaje koristeći mješavinu kvalitete i popularnosti. Utvrdili smo da će općenito pristranost prema popularnosti vjerojatnije smanjiti ukupnu kvalitetu sadržaja. Razlog je taj što angažman nije pouzdan pokazatelj kvalitete kada su ljudi izloženi nekom sadržaju. On zapravo stvara bučan signal, a algoritam će vjerojatno pojačati taj početni šum. Kad popularnost sadržaja niske kvalitete postane dovoljno velika, on će se stalno povećavati.

Algoritmi nisu jedino na što utječe pristranost prema angažmanu, oni mogu utjecati i na ljude. Dokazi pokazuju da se informacije prenose putem "složene zaraze", što znači da što su ljudi češće izloženi nekoj ideji na internetu, veća je vjerojatnost da će je usvojiti i ponovno podijeliti. Kad društveni mediji ljudima govore da neki sadržaj postaje viralan, pojavljuju se njihove kognitivne pristranosti i pretvaraju se u neodoljivu želju da na njega obrate pozornost i podijele ga.

Ne tako mudra gomila

Nedavno smo proveli eksperiment pomoću aplikacije za opismenjavanje vijesti pod nazivom Fakey. To je igra koju je razvio naš laboratorij i simulira feed vijesti poput Facebooka i Twittera. Igrači vide mješavinu aktualnih članaka iz izvora lažnih vijesti, loše znanosti, hiperstranačkih izvora i izvora teoretičara zavjera, kao i iz mainstream izvora. Igrači dobivaju bodove za dijeljenje ili lajkanje vijesti iz pouzdanih izvora i za označavanje članaka s niskim kredibilitetom.

Otkrili smo da će igrači vjerojatnije voljeti i dijeliti, a manje vjerojatno da će označavati članke iz izvora s niskim kredibilitetom kada vide da su se mnogi drugi korisnici angažirali oko njih. Izloženost mjerenju angažmana na taj način stvara ranjivost.

Mudrost gomile tu ne uspijeva jer je izgrađena na krivoj pretpostavci da gomilu čine različiti, neovisni izvori. Može biti nekoliko razloga zašto to nije slučaj.

Prvo, zbog tendencije ljudi da se druže sa sličnim ljudima, njihova susjedstva na internetu nisu jako raznolika. Lakoća s kojom korisnici društvenih medija mogu odfrendati one s kojima se ne slažu gura ljude u homogene zajednice, koje se često nazivaju komorama jeke.

Drugo, budući da su prijatelji mnogih ljudi međusobno prijatelji, oni utječu jedni na druge. Poznati eksperiment pokazao je da znanje o tome koju glazbu vole vaši prijatelji utječe na vaše vlastite glazbene sklonosti. Vaša društvena želja za usklađivanjem s drugima iskrivljuje vaš neovisan sud.

Treće, signali popularnosti mogu se isfabricirati. Tijekom godina tražilice su razvile sofisticirane tehnike za suprotstavljanje takozvanim "farmama linkova" i drugim shemama za manipulaciju algoritmima pretraživanja. Međutim, platforme društvenih medija tek počinju učiti o vlastitim ranjivostima.

Ljudi koji žele manipulirati tržištem informacija stvorili su lažne račune, poput trolova i društvenih botova, i organizirali lažne mreže. Preplavili su internet kako bi stvorili dojam da je neka teorija zavjere ili politički kandidat popularan, prevarivši u isti mah i algoritme platformi i kognitivne pristranosti ljudi. Čak su promijenili strukturu društvenih mreža kako bi stvorili iluzije o mišljenjima većine.

Smanjivanje značaja angažmana

Što uraditi? Tehnološke platforme trenutno su u defenzivi. Tijekom američkih izbora postaju sve agresivnije u uklanjanju lažnih računa i štetnih dezinformacija. No ti napori mogu biti slični igri lupanja krtice po glavi u lunaparku.

Drugačiji, preventivni pristup bio bi dodavanje trenja u proces. Drugim riječima, učiniti da se proces širenja informacija uspori. Visokofrekventno ponašanje, poput automatiziranog lajkanja i dijeljenja, moglo bi se spriječiti CAPTCHA testovima koji zahtijevaju da ljudi odgovaraju ili pak da plaćaju naknade. Ne samo da bi to smanjilo mogućnosti manipulacije, već bi s manje informacija ljudi mogli posvetiti više pažnje onome što vide. To bi ostavilo manje prostora da pristranost prema angažmanu utječe na odluke ljudi.

Također bi pomoglo kada bi društvene mreže prilagodile svoje algoritme da se manje oslanjaju na signale angažmana, a više na signale kvalitete kako bi odredile sadržaj koji vam objavljuju. Možda će objave američke zviždačice dati potreban poticaj da se to dogodi.