AI CHATBOTOVI daju netočne, nedosljedne i nepouzdane savjete biračima o tome za koga glasati, pokazuje novo istraživanje. Sustavi umjetne inteligencije često preporučuju pogrešne stranke, izostavljaju relevantne političke opcije ili čak navode one koje uopće ne sudjeluju na izborima, piše The Guardian.

Istraživanje, koje je provela udruga za građanske slobode Liberties na temelju podataka s ovogodišnjih parlamentarnih izbora u Mađarskoj, zaključuje da rezultati "izazivaju ozbiljnu zabrinutost oko pouzdanosti AI sustava opće namjene u izbornom kontekstu".

U izvješću stoji da su sustavi pogrešno klasificirali biračke profile, izostavljali relevantne stranke i uključivali one koje se nisu ni kandidirale. Rezultati su usto bili vrlo nestabilni, a na identične upite stizali su "bitno različiti" odgovori.

Velika pristranost u rezultatima

Najupečatljiviji nalaz izvješća o mađarskim izborima, na kojima je uvjerljivo pobijedila oporbena stranka Tisza Pétera Magyara, odnosi se na golemu pristranost u vidljivosti stranaka. To se posebno odnosi na Tiszu. Kada je ChatGPT dobio detaljan profil birača čiji su stavovi bliski toj stranci, u 90 posto slučajeva sustav je uopće nije preporučio.

Magyarova pobjeda okončala je šesnaestogodišnju vladavinu Viktora Orbána i njegove nacionalno-konzervativne stranke Fidesz. Istraživači ističu da sustavi umjetne inteligencije opće namjene (GPAI), za razliku od specijaliziranih stranica za savjetovanje birača ili medijskih analiza, ne otkrivaju kako generiraju političke preporuke.

Njihovi rezultati nisu ponovljivi i ne podliježu javnom nadzoru. Unatoč tome, odgovori koje daju često zvuče samouvjereno i autoritativno, pa im korisnici lakše vjeruju. S obzirom na to da se 29,8 posto Mađara izjašnjava kao korisnici umjetne inteligencije, istraživači su testirali dva najpopularnija alata, ChatGPT i Gemini.

Metodologija i konkretni nalazi

Udruga Liberties je na temelju stranačkih programa s Voksmonitora, ugledne mađarske aplikacije za savjetovanje birača, kreirala pet profila birača. Svaki profil bio je usklađen s jednom od pet stranaka na nacionalnim listama za parlamentarne izbore.

Zatim je svaki profil testiran po deset puta na ChatGPT-u i Geminiju, s dva različita upita: jednim se tražio izravan savjet za koju stranku glasati, a drugim postotak podudaranja sa svakom od pet stranaka. U testovima podudaranja, ChatGPT je stranci Tisza dodijelio bodove u samo dva posto slučajeva.

Korisnicima čiji su stavovi bili bliski Tiszi sustav je umjesto toga redovito preporučivao manju stranku s malim izgledima za prelazak izbornog praga od 5 posto, ili čak stranke koje se nisu nalazile na nacionalnoj listi.

S druge strane, profili birača skloni Fideszu prepoznavani su znatno dosljednije. Kada se tražio izravan savjet, ChatGPT je u otprilike 50 posto slučajeva naveo Fidesz kao jedinu opciju, a u ostalim slučajevima kao primarni izbor.

Analiza ne tvrdi da je ovakvo ponašanje AI sustava utjecalo na ishod izbora, s obzirom na to da je Tisza ostvarila uvjerljivu pobjedu. Ipak, istraživači upozoravaju da bi "na neizvjesnijim izborima ili ondje gdje su birači neodlučniji, ovakvi rezultati mogli utjecati na konačni ishod".

Sistemske pogreške

Među ostalim uočenim problemima je i nedosljednost, jer je isti profil birača u ponovljenim testovima bio povezivan s potpuno različitim strankama. U čak 96 posto odgovora ChatGPT-a i Geminija pojavile su se stranke koje uopće nisu bile na glasačkim listićima 2026. godine.

Istraživači su također primijetili da oba AI modela redovito započinju odgovore ogradom u kojoj navode da "ne mogu davati političke savjete", da bi odmah nakon toga ispisali nekoliko odlomaka vrlo uvjerljivih stranačkih preporuka.

"Odgovori su djelovali argumentirano, precizno i autoritativno", navode istraživači. "To stvara rizik da korisnici tretiraju te podatke kao pouzdane, iako je metoda u pozadini netransparentna, a rezultati nestabilni."

U izvješću se pretpostavlja da uzrok pogrešaka vjerojatno leži u prazninama u podacima za treniranje, filtrima i jezičnim ograničenjima. Stranka Tisza postala je istaknuta tek nakon 2024. godine, pa su se statični modeli obuke teško snalazili s njezinim svrstavanjem.

Regulatorne rupe

Istraživači ističu da ovi nalazi otkrivaju i ozbiljnu regulatornu prazninu. Naime, Akt o umjetnoj inteligenciji EU-a obvezuje pružatelje GPAI modela na procjenu sistemskih rizika, a Akt o digitalnim uslugama pokriva "sistemske rizike" za izborne procese, no AI chatbotovi ostaju u svojevrsnoj sivoj zoni između ta dva zakona.

Iz udruge Liberties poručuju da je potrebno razviti zaštitne mehanizme za AI sustave koji daju političke savjete. Smatraju da bi pružatelji AI usluga trebali prestati s personaliziranim preporukama za glasanje sve dok ne budu mogli jamčiti transparentnost, točnost, dosljednost i odgovornost.

"Umjetna inteligencija opće namjene ne bi smjela predstavljati netransparentno i nestabilno političko povezivanje kao da je riječ o pouzdanim uputama za birače", izjavila je Eva Simon, voditeljica programa za tehnologiju i prava u Libertiesu.

"Demokracija se ne može oslanjati na netransparentne sustave koji za sebe tvrde da su neutralni, a istovremeno daju savjete za koje ne mogu ponuditi objašnjenje, ponovljivost ni jamstvo točnosti."