Nič več digitalne zasebnosti?

Za kratico CSAR bržkone še niste slišali, »uradno« gre za predlog novega zakona EU o boju proti spolni zlorabi otrok (angl. Child Sexual Abuse Regulation), kritiki predloga pa opozarjajo na grobe posege v temeljne pravice pol milijarde državljanov držav na stari celini.

Omenjeni predlog namreč predvideva, da bodo morali ponudniki spletnih storitev, kot so družbena omrežja, aplikacije za sporočanje in spletne strani, proaktivno iskati in odstranjevati vsebine, povezane s spolno zlorabo otrok. Pri tem naj bi uporabljali avtomatizirana orodja in druge rešitve, ki bodo skenirale besedila, slike in videoposnetke ter iskale morebitne nezakonite vsebine. Ne le v spletnih objavah, torej na spletnih strežnikih, temveč tudi na napravah posameznikov.

Očitno je, da je, čeprav je cilj predloga zaščititi otroke, ta sprožil burno razpravo o poseganju v zasebnost, svobodo govora in druge temeljne pravice prebivalcev držav EU. Najbolj glasni nasprotniki celo izpostavljajo digitalno represijo in vlečejo vzporednice z režimi na Kitajskem, v Severni Koreji in podobnih državah. Kritiki so predlogu zakona že nadeli vzdevek »nadzor klepetov« (angl. Chat Control), saj ta predvideva skeniranje vseh zasebnih digitalnih komunikacij, vključno s sporočili in e-poštnimi sporočili, zaščitenimi s šifriranjem, za odkrivanje in poročanje o vsebini, ki vsebuje spolno zlorabo otrok.

So šli predaleč?

Regulacija o preprečevanju in boju proti spolni zlorabi otrok bi po predlogu omenjenega zakona mimogrede spremenila zasebna sporočila (pa tudi fotografije in videoposnetke) v predmet množičnega nadzora ter tako trajno uničila digitalno zasebnost Evropejcev. Glede na vsebino predloga evropske komisije bi bilo uvedeno obvezno samodejno preiskovanje vseh sporočil, fotografij in videoposnetkov v realnem času – in to brez utemeljenega suma oziroma sodne podlage/postopka – na napravah uporabnikov; pred ali takoj v trenutku pošiljanja.

Ob takšnih ukrepih se je težko znebiti občutka, da je bila skrb pred otroško pornografijo in zlorabami otrok res prva misel piscev zakona. Predlagana zakonodaja ustvarja nevaren globalni precedens, ki avtoritarnim vladam omogoča, da s sklicevanjem na politiko EU uvedejo vsiljiv nadzor, kar spodkopava zasebnost in svobodo izražanja ljudi po vsem svetu. Predlog spodkopava tudi temeljne pravice prebivalcev EU do zasebnosti in varstva podatkov, kot jih zagotavljata 7. in 8. člen Listine EU – pravice, ki veljajo za temeljne evropske demokratične vrednote. Avtomatizirano skeniranje vsebine bi kaj lahko vodilo do cenzure in kršitve svobode govora.

Strokovnjaki in organizacije za zaščito otrok, vključno z Združenimi narodi, opozarjajo, da množični nadzor ne preprečuje zlorab in dejansko zmanjšuje varnost otrok – saj slabi varnost za vse in preusmerja vire od preverjenih zaščitnih ukrepov. Oglasili so se tudi varnostni strokovnjaki. Zlom šifriranja, implementacija stranskih vrat v spletne platforme in komunikacijske storitve ter podobni ukrepi imajo lahko zelo resne posledice. Zasebna komunikacija ne bo več zasebna, temveč bo pod drobnogledom algoritmov in skrbnikov – vključno z občutljivimi finančnimi, zdravstvenimi in zasebnimi podatki. Ker absolutne varnosti v digitalnem svetu ni, varnostni strokovnjaki svarijo, da bodo te vsebine in podatki prej ali slej pristali tudi v rokah hekerjev, kibernetskih kriminalcev in sovražnih akterjev, ki bodo z njimi povzročili še precej več škode.

Stroka prav tako ne zaupa slepo tehnologiji in opozarja na povečano število t. i. lažnih pozitivnih rezultatov. Orodja, ki skenirajo vsebine, niso popolna in lahko proizvedejo napačne rezultate. To bi lahko vodilo do napačnega obtoževanja nedolžnih uporabnikov. Sistem bi lahko ponesreči označil kot sporno tudi legalno vsebino, ki bi bila, na primer, namenjena izobraževanju o spolni zlorabi. Pretekle statistike kažejo, da so algoritmi nagnjeni k velikemu številu odkritij prekrškov, pri čemer je delež lažno pozitivnih primerov tudi do 80 odstotkov. V praksi bi to lahko pomenilo, da bi že običajne fotografije ali zasebna sporočila končali v poročilih organov pregona in imeli resne posledice za sicer nedolžne uporabnike, vključno z mladoletniki, ki delijo neškodljivo vsebino.

Spletni velikani se že borijo proti otroški pornografiji

Čeprav predlog nove zakonodaje CSAR nalaga (še) večjo odgovornost upraviteljem spletnih platform, velja izpostaviti, da se te že danes borijo proti zlorabam otrok in otroški pornografiji ter sodelujejo z organi pregona. Priljubljene spletne storitve in platforme, kot so Gmail, Facebook, Messenger in podobne, že uporabljajo nekatere oblike skeniranja vsebin in preprečevanja širjenja neprimernih vsebin in vsebin o spolni zlorabi otrok.

Omenjeni predlog zakona ni nov. Prvi poskus njegove uvedbe sega v maj 2022, vendar ni prejel zadostne podpore držav članic. Tudi poskusi kompromisa v obliki prostovoljnega skeniranja ali modela s soglasjem uporabnika so naleteli na odpor. Še novembra 2023 je evropski parlament zavzel trdno stališče proti neselektivnemu skeniranju zasebnih sporočil in namesto tega predlagal ciljno usmerjen nadzor izključno s sodnim nalogom za posameznike, ki so že osumljeni kaznivih dejanj na področju spolne zlorabe otrok.

A v Bruslju se ne dajo. V začetku julija je bil predlog znova uveden, in to celo kot prednostna naloga. V času nastanka tega prispevka ga podpira 15 držav članic, vključno z Dansko, Francijo, Irsko, Italijo, Španijo in Švedsko, medtem ko je Slovenija podobno kot Nemčija in Belgija ter še šest drugih držav za zdaj še neodločena. Odločno proti omenjenemu predlogu zakona so Avstrija, Nizozemska in Poljska. Od devetih evroposlancev, kolikor jih ima Slovenija, je svojo odločitev »proti« jasno izrazil le Branko Grims iz Slovenske demokratske stranke, preostali pa so tako kot vlada »neodločeni«.

Odločitev glede usode predlaganega zakona CASR gre pričakovati sredi oktobra, že 12. septembra pa bodo države članice EU poskušale uskladiti svoja končna stališča. »Nadzor klepetov« je tako že postal simbol širšega konflikta med potrebo po varnosti in ohranjanjem temeljnih pravic v digitalni dobi. Se bo odprla digitalna Pandorina skrinjica? Kritiki predloga nove evropske zakonodaje upravičeno izpostavljajo naslednje vprašanje – če bo množičnemu nadzoru dovoljeno loviti eno vrsto kriminala, kaj/kdo sledi? Že pojutrišnjem bi lahko isto tehnologijo uporabili za spremljanje terorizma, sovražnega govora ali pa zgolj politične nesramnosti. Vse našteto pa bi utrlo pot digitalnemu avtoritarizmu, ki si ga menda vsi – z izjemno tistih, ki so na oblasti – ne želimo.