EUROPSKI parlament je u četvrtak podržao povratak privremene mjere poznate kao chat control, koja bi internetskim platformama ponovno omogućila dobrovoljno automatizirano skeniranje dijela privatnih poruka radi otkrivanja materijala koji prikazuje seksualno zlostavljanje djece.

Ne radi se o trajnom zakonu, nego o pravilima koja bi trebala vrijediti dok se EU ne dogovori o širem i trajnijem zakonu.

Kritičari ta pravila zovu "chat control" jer omogućuju automatiziranu provjeru dijela privatnih poruka. Zagovornici tvrde da su takvi alati nužni kako bi se otkrivale snimke i fotografije seksualnog zlostavljanja djece te pokušaji mamljenja djece na internetu.

Stara privremena pravila istekla su 3. travnja 2026. Vijeće EU-a želi ih ponovno uvesti do 3. travnja 2028. Europski parlament sada je podržao izmjene kojima želi ograničiti ta pravila.

Parlament želi da iz skeniranja budu izuzete poruke koje su zaštićene end-to-end enkripcijom. To znači da bi šifrirani razgovori na servisima poput WhatsAppa i Signala trebali biti izuzeti. No to još nije konačno, o tome se još moraju izjasniti države članice EU-a.

Što će se sada događati?

Europski parlament u ovom slučaju nije sam uveo "chat control". Njegova je uloga da odluči hoće li prihvatiti, odbaciti ili izmijeniti prijedlog Vijeća EU-a, odnosno država članica.

Države članice žele ponovno uvesti privremenu iznimku koja bi platformama omogućila dobrovoljno otkrivanje i prijavu materijala seksualnog zlostavljanja djece. Europski parlament taj prijedlog nije potpuno srušio, ali ga je izmijenio. Najvažnija izmjena je izuzeće komunikacija zaštićenih end-to-end enkripcijom.

Parlamentova verzija sada ide natrag državama članicama. Ako je Vijeće prihvati, pravila mogu biti usvojena u tom obliku. Ako je ne prihvati, Parlament i Vijeće morat će pregovarati o konačnom tekstu.

Što bi se skeniralo?

Cilj je otkrivanje materijala seksualnog zlostavljanja djece. Često se za to koristi engleska kratica CSAM.

To su, primjerice, fotografije i snimke seksualnog zlostavljanja djece. Pravila se odnose i na pokušaje mamljenja djece, odnosno situacije u kojima odrasla osoba preko interneta pokušava pridobiti dijete radi seksualnog zlostavljanja.

Kako bi to funkcioniralo?

Ne radi se o tome da policajac ili službenik sjedi za računalom i čita svačije poruke. Prvo bi radili automatizirani sustavi. Platforme bi mogle koristiti alate koji traže poznate ilegalne fotografije i snimke. Takvi alati uspoređuju datoteke s bazama već poznatog materijala seksualnog zlostavljanja djece.

Za tekstualne poruke stvar je osjetljivija. Tu bi se mogli koristiti algoritmi i umjetna inteligencija koji traže obrasce koji mogu upućivati na pokušaj zlostavljanja ili mamljenja djeteta, odnosno grooming.

Upravo taj dio kritičari najviše problematiziraju. Umjetna inteligencija nije nepogrešiva, pa se ovdje povećava rizik od takozvanih "lažno pozitivnih" rezultata. Primjerice, algoritam bi mogao bezazleni tinejdžerski flert, šalu ili roditeljsko slanje slike djeteta s plaže baki pogrešno označiti kao sumnjiv sadržaj i tako ga poslati na pregled ljudskom moderatoru, čime se zadire u privatnost nevinih ljudi.

Bi li se pregledavale sve poruke?

Pravila ne znače da EU svim platformama naređuje da moraju skenirati sve poruke. Zato se koristi riječ "dobrovoljno". Ali to ne znači da svaki korisnik posebno odlučuje želi li skeniranje svojih poruka.

"Dobrovoljno" znači da tehnološka platforma odlučuje hoće li koristiti tu mogućnost. Neke od najvećih tehnoloških kompanija to već godinama rade.

Primjerice, Google rutinski skenira privitke na Gmailu, a Meta (Facebook) je godinama provodila takva skeniranja nešifriranih poruka na Messengeru. S druge strane, servisi usmjereni na privatnost i organizacije za digitalna prava takvoj se praksi oštro protive.

Ako se platforma odluči na skeniranje, korisnicima mora jasno objasniti što radi, zašto to radi i kome se podaci mogu proslijediti. Dakle, dobrovoljnost je na strani platforme, a ne na strani pojedinog korisnika.

Tko bi vidio sadržaj?

Prvo bi sadržaj pregledavao automatizirani sustav. Ako sustav nešto označi kao sumnjivo, u nekim slučajevima mora se uključiti čovjek.

To je posebno važno kod novog materijala koji ranije nije bio potvrđen kao ilegalan i kod sumnji na grooming. Takvi slučajevi ne bi smjeli odmah ići policiji samo zato što ih je označio algoritam. Prije toga trebao bi ih provjeriti ljudski moderator.

Ide li išta policiji?

Ako platforma nakon provjere utvrdi da postoji obrazložena i provjerena sumnja na seksualno zlostavljanje djece na internetu, slučaj se može prijaviti policiji ili organizacijama koje se bave zaštitom djece.

To može uključivati sporni sadržaj, podatke o računu i druge informacije potrebne za provjeru slučaja.

Za početno dobrovoljno skeniranje koje provodi platforma ne bi se tražio sudski nalog za svakog korisnika. Platforma bi skenirala na temelju posebne zakonske iznimke.

Ali ako slučaj završi kod policije i ako policija želi dodatne podatke ili poduzima daljnje korake, tada se primjenjuju pravila kaznenog postupka. Drugim riječima, početno skeniranje platforme i policijska istraga nisu ista stvar.

Što je s WhatsAppom, Signalom i Telegramom?

Europski parlament želi izuzeti komunikacije zaštićene end-to-end enkripcijom. To je sustav u kojem poruku u čitljivom obliku mogu vidjeti samo pošiljatelj i primatelj, dok sama platforma nema pristup sadržaju.

Zato bi, prema verziji Parlamenta, šifrirane poruke na servisima poput WhatsAppa i Signala trebale biti potpuno izuzete.

Važno je napomenuti da Telegram u ovu skupinu spada samo djelomično. Za razliku od WhatsAppa i Signala, Telegram nema end-to-end enkripciju uključenu automatski za sve razgovore, već samo ako korisnik ručno pokrene opciju "Tajni chat" (Secret Chat).

Obični razgovori na Telegramu pohranjeni su u Telegramovu cloudu i nisu end-to-end enkriptirani. Zato bi lakše mogli potpasti pod dobrovoljno skeniranje ako Telegram na to pristane. No čak i za aplikacije s potpunom enkripcijom ovo još nije konačno. Države članice EU-a tek moraju odlučiti hoće li prihvatiti verziju Parlamenta.

Pregledavaju li se pozivi?

Prema prijedlogu Vijeća, ova pravila ne bi se odnosila na skeniranje audio komunikacija. Drugim riječima, ne radi se o preslušavanju telefonskih ili internetskih poziva.

Što je tu sporno?

Zagovornici tvrde da se bez ovakvih alata teže otkrivaju snimke seksualnog zlostavljanja djece, počinitelji i žrtve.

Protivnici upozoravaju da se time uvodi opasan presedan: automatizirano skeniranje privatne komunikacije velikog broja ljudi koji nisu ni za što osumnjičeni.

Posebno ih brine mogućnost pogrešaka algoritama, potencijalno širenje sustava na druge vrste sadržaja u budućnosti i politički pritisak na ukidanje enkripcije.

Većina bila protiv, a prijedlog ipak nije pao?

Više zastupnika glasalo je za odbacivanje prijedloga nego protiv odbacivanja. Ali za rušenje prijedloga bila je potrebna apsolutna većina svih zastupnika u Europskom parlamentu, uključujući i one koji nisu bili u dvorani ili su bili suzdržani. Taj prag, koji je iznosio 360 glasova, nije dosegnut, pa prijedlog nije pao.

Iako nije bilo dovoljno glasova za potpuno rušenje zakona, dio zastupnika koji nije želio srušiti cijeli zakon ipak je podržao zaštitu privatnosti. Zbog toga su izmjene kojima se iz skeniranja izuzimaju end-to-end enkriptirane poruke prikupile potrebnih 369 glasova i prešle prag apsolutne većine.

Što to znači za običnog korisnika?

Zasad se ne uvodi nikakvo policijsko čitanje svih poruka. Ali ako pravila budu prihvaćena, neke platforme mogle bi ponovno dobrovoljno skenirati dio nešifrirane komunikacije kako bi otkrivale seksualno zlostavljanje djece na internetu.

Ako koristite aplikacije s end-to-end enkripcijom, poput WhatsAppa ili Signala, prema verziji koju je podržao Europski parlament vaše šifrirane poruke ne bi trebale biti obuhvaćene tim pravilima. No, s obzirom na to da države članice tek moraju dati svoju zadnju riječ, konačna odluka još nije donesena.