Tko stoji iza plana masovnog nadzora digitalne komunikacije u Europi

Posljednjih nekolika dana domaći su se mediji raspisali o 'chat controlu' tj. prijedlogu Europske unije da se omogući nadzor na svim kriptiranim online komunikacijama, pod egidom zaštite djece na internetu (child sexual exploitation material - CSAM). To znači da bi svi davatelji messenger usluga poput WhatsUp-a, Vibera i ostalih, automatski morali pregledavati sve privatne poruke i razgovore bez iznimke.

Posljedica bi bila masovno nadgledanje u stvarnom vremenu pomoću potpuno automatiziranog sustava i kraj privatnosti naših digitalnih razgovora. To nije novi prijedlog, prije tri godine i naša je Vlada za ovu regulativu dala pozitivno mišljenje, tj. složili su se da je nadzor svih građana Europe potreban.

Prijedlog datira iz 2022. godine, točnije, 11 svibnja te godine Europska je komisija predstavila prijedlog koji bi obavezao sve davatelje e-mail i messenger usluga da pretražuju i skeniraju sve komunikacije čak i one koje su trenutno sigurno šifrirane end-to-end enkripcijom.

Većina bila protiv

Prije samog prijedloga provedena je javna konzultacija koja je pokazala da većina građana i stručnjaka ne podržava ovu obavezu. Više od 80 posto sudionika bilo je protiv primjene nadzora na end-to-end šifriranu komunikaciju.

Inače, trenutno postoji pravilo koje omogućuje davateljima usluga da komunikaciju pregledavaju dobrovoljno (tzv. Chat Control 1.0). Do sada to primjenjuju samo neki nešifrirani američki servisi poput Gmaila, Facebook/Instagram Messengera, Skypea, Snapchata, iClouda i X-Boxa. No, ako se prihvati novi prijedlog (Chat Control 2.0), od dobrovoljnog dolazimo do obaveznog.

Kako bi novi nadzor poruka utjecao na vas

Ako bi Europska unija uvela obavezno skeniranje poruka i e-mailova, svaka vaša digitalna komunikacija bila bi automatski pregledana u potrazi za 'sumnjivim sadržajem'. Ništa više ne bi ostalo povjerljivo niti tajno, a za nadzor ne bi bila potrebna ni sudska odluka ni početna sumnja jer bi se provjera provodila uvijek i bez iznimke.  U slučaju da algoritam procijeni kako je neka poruka sumnjiva, vaši privatni ili intimni sadržaji mogli bi završiti u rukama zaposlenika i vanjskih suradnika međunarodnih korporacija ili policijskih tijela. To znači da bi čak i vaše privatne fotografije, uključujući one najosjetljivije, mogli pregledavati potpuni neznanci, bez ikakve garancije da će ostati zaštićene.

AI filter za prepoznavanje poruka bi tako mogao obične intimne prepiske, poput flerta ili dopisivanja između partnera označiti potencijalno rizičnima. Zabilježeni su slučajevi u kojima su potpuno legalne obiteljske fotografije, primjerice djece na plaži tijekom ljetovanja, bile pogrešno označene kao zabranjeni sadržaj.

Prema procjenama tehničkih istraživanja, čak i vrlo precizni algoritmi s minimalnom stopom pogreške od 0,1 posto mogli bi generirati milijune lažno pozitivnih prijava dnevno, s obzirom na to da se u EU svakodnevno šalju milijarde poruka. Također, Irsko iskustvo potvrđuje problem, prema Nacionalnom centru za nestalu i zlostavljanu djecu (NCMEC), samo oko 20 posto prijava koje dolaze iz automatiziranih sustava uopće sadrži ilegalan materijal. U praksi to znači da se golemi broj građana može naći pod lažnom sumnjom i ozbiljnim problemima. Osim toga, otvaranjem sustava enkripcije, koja trenutno štiti privatnost, stvara se prostor i za špijuniranje od strane obavještajnih službi ili hakera. Jednom kada se tehnologija za nadzor poruka uspostavi, lako ju je proširiti i na druge svrhe, a nitko ne može jamčiti da se takvi alati sutra neće koristiti za praćenje naših pametnih telefona i računala.

nadzor građana, nadzor digitalne komunikacije

Prijedlog također predviđa obaveznu provjeru dobi korisnika. To znači da više ne bi bilo moguće otvoriti anonimne e-mail ili messenger račune bez osobnog dokumenta ili biometrijske potvrde identiteta. Takva praksa ne bi samo uništila anonimnost, već bi povećala rizik od curenja osobnih podataka. Osjetljive komunikacije, od privatnih razgovora o seksualnosti, preko anonimnog kontakta novinara s izvorima, pa sve do političkog djelovanja time bi postale ugrožene. Maloljetnicima bi pak bio ograničen pristup čitavom nizu digitalnih usluga.

U konačnici, prijedlog otvara pitanja ne samo zaštite privatnosti i sloboda građana, već i samog funkcioniranja digitalnog društva. Umjesto zaštite, mnogi upozoravaju da bi se stvorio sustav masovnog nadzora s dalekosežnim posljedicama. Također, edukacija djece i roditelja kao prevencija bi trebala biti smjer u kojem se ide, a ne represija i nadzor cijelog društva i to od sustava koji nije ni približno točan i precizan.

Tko stoji iza prijedloga?

BIRN, (Balkan Investigative Reporting Network) još je 2023. godine istražio tko lobira i tko je glavni pokretač ovog kontroverznog prijedloga. Kako su tada pisali, iza komesarice Europske komisije Ylve Johansson i njezina prijedloga za borbu protiv online seksualnog zlostavljanja djece (CSAM) stoji moćna i dobro financirana mreža lobista i udruga koja je, prema internim dokumentima i iskazima sudionika, imala neprimjeren utjecaj na politiku koja može promijeniti internet kakvog poznajemo.

ylva johansson

BIRN navodi da je u svibnju 2022. Johansson poslala pismo američkoj organizaciji Thorn, koju su 2012. osnovali Ashton Kutcher i Demi Moore. Thorn razvija AI alate za prepoznavanje CSAM-a, a prijedlog uredbe osmišljen je za borbu protiv širenja tog sadržaja. Johansson je u pismu pozvala izvršnu direktoricu Thorna da 'pomogne lansiranju prijedloga'. Put prijedloga bio je obilježen snažnim lobiranjem. Thorn je organizirao sastanke s ključnim članovima Komisije, uključujući Johansson, Margrethe Vestager, Margaritisa Schinasa i Thierryja Bretona. Iako registriran kao nevladina organizacija, Thorn prodaje AI alate na tržištu pa je i Ministarstvo domovinske sigurnosti SAD-a kupilo licence za 4,3 milijuna dolara.

Također, poruke do kojih je došao BIRN otkrivaju kontinuiran i blizak radni odnos između dviju strana u mjesecima nakon predstavljanja prijedloga o CSAM-u, pri čemu je Komisija više puta olakšavala Thornu pristup ključnim mjestima odlučivanja na kojima su prisustvovali ministri i predstavnici država članica EU.

Kritike iz Nizozemske

Nizozemska organizacija Offlimits, najstarija europska prijavna linija za seksualno zlostavljanje djece, otvoreno je upozorila da bi EU prijedlog mogao pretvoriti zaštitu djece u profitabilan posao za tehnološke kompanije.

- Bruxelles previše sluša američke udruge koje imaju vlastiti tržišni interes - izjavila je bivša direktorica Offlimitsa Marietje Gerkens, dodajući da se Johansson odbila sastati s njima, dok je redovito nalazila vremena za sastanke s predstavnicima Silicijske doline.

Skeptična je i znanstvena zajednica. Kriptograf Matthew Green s Johns Hopkinsa ističe da u izradi prijedloga nisu sudjelovali europski stručnjaci za enkripciju, iako ih Europa ima na svjetskoj razini. Apple je 2023. godine javno priznao da je pokušaj CSAM skeniranja na uređajima tehnički neodrživ bez ugrožavanja privatno. Također, istraživanja s Imperial Collegea dodatno upozoravaju da bi tehnologija skeniranja na uređajima mogla biti zloupotrijebljena, primjerice za prepoznavanje lica i to bez znanja korisnika.

Završna faza

Prijedlog se trenutno nalazi u završnoj fazi zakonodavnog procesa, s planiranim glasovanjem u Europskom vijeću zakazanim za 14. listopada 2025. godine. Prema informacijama organizacije Fight Chat Control, 15 država članica EU-a podržava prijedlog, dok 9 ostaje neodlučno, a tri suprotstavljene (Austrija, Nizozemska i Poljska). Očekuje se da će 12. rujna 2025. biti objavljeni konačni stavovi država članica a ako prijedlog bude usvojen, sljedeći korak bit će trilateralna pregovaranja između Europske komisije, Europskog parlamenta i Vijeća EU-a kako bi se finalizirao tekst zakona. Prema nekim procjenama, konačna usklađivanja i usvajanje mogli bi se dogoditi krajem 2025. ili početkom 2026. godine.

Ovaj prijedlog izaziva snažnu zabrinutost među stručnjacima za privatnost, organizacijama za ljudska prava i tehnološkim tvrtkama zbog potencijalnog ugrožavanja krajnje enkripcije i mogućnosti masovnog nadzora. Nekoliko organizacija, uključujući spomenuti Fight Chat Control, poziva građane EU-a da se protive prijedlogu i kontaktiraju svoje predstavnike u Europskom parlamentu i nacionalnim vladama.