Posebno poročilo
O nevarnosti digitalne tehnologije.
Odpri galerijo
Foto: Blaž Samec/Delo
V filmski uspešnici Posebno poročilo, v kateri glavno vlogo igra Tom Cruise, smo si ljubitelji znanstvene fantastike lahko ogledali, kako naj bi bila videti družba, v kateri je vsak naš korak zabeležen na kamerah za avtomatično prepoznavo obrazov. Uiti ne moremo niti organom pregona niti oglaševalcem. Najbrž pa tudi ne nikomur, ki bi nas vzel za tarčo iz osebnih razlogov. Že zdaj je osebne podatke mogoče preprosto zlorabiti. Zaposleni na mariborskem UKC so, na primer, nepooblaščeno brskali po zdravstveni kartoteki sodnice Daniele Ružič.
Predstavljajte si družbo, v kateri imajo organi pregona in ponudnik tehnologije avtomatične prepoznave obrazov v realnem času podatek o vsakem vašem premiku. Če to združite še z dejstvom, da so kavboji digitalne tehnologije, kot je idejni vodja ameriškega podjetja Clearview AI, že napisali in oblastem po svetu v uporabo dali algoritme, ki na podlagi naših spletnih psiholoških profilov ugibajo, kako verjetno je, da bomo postali teroristi, nas mora res postati strah. Ne umira samo naša pravica do zasebnosti – menda zato, ker bomo ob totalnem nadzoru končno varni, najbrž tudi pred samimi seboj. Še večja težava je, da je tehnologija, ki jo hranijo algoritmi, sestavljeni iz podatkov iz realnega sveta, nujno okužena s predsodki družbe in nepopolna, predstavljajo pa jo kot sveti gral. Programi za avtomatično prepoznavo obrazov, na primer, dokazano slabše prepoznavajo temnopolte obraze in imajo velike težave z dvojniki. Kako natančni so ti programi, lahko le ugibamo.
Zelo široka uporaba programa podjetja Clearview AI med ameriškimi organi pregona in dejstvo, da številne države po svetu podobne tehnologije že testirajo ali uporabljajo, daje slutiti, da bo prodor digitalizacije tudi v ta del življenja zelo težko preprečiti. Evropska komisija naj bi uporabo avtomatične prepoznave obrazov v EU za nekaj let zamrznila, da bi preverila (ne)varnost tehnologije. A vprašanje je, ali ni zajec že skočil iz klobuka. Tovrstna tehnologija je našla pot tudi v slovensko zakonodajo, ne da bi kdorkoli sploh trenil z očmi. Družba se digitalizira tako hitro, da ob našem analognem vedenju potencialnih nevarnosti niti ne opazimo.
Predstavljajte si družbo, v kateri imajo organi pregona in ponudnik tehnologije avtomatične prepoznave obrazov v realnem času podatek o vsakem vašem premiku. Če to združite še z dejstvom, da so kavboji digitalne tehnologije, kot je idejni vodja ameriškega podjetja Clearview AI, že napisali in oblastem po svetu v uporabo dali algoritme, ki na podlagi naših spletnih psiholoških profilov ugibajo, kako verjetno je, da bomo postali teroristi, nas mora res postati strah. Ne umira samo naša pravica do zasebnosti – menda zato, ker bomo ob totalnem nadzoru končno varni, najbrž tudi pred samimi seboj. Še večja težava je, da je tehnologija, ki jo hranijo algoritmi, sestavljeni iz podatkov iz realnega sveta, nujno okužena s predsodki družbe in nepopolna, predstavljajo pa jo kot sveti gral. Programi za avtomatično prepoznavo obrazov, na primer, dokazano slabše prepoznavajo temnopolte obraze in imajo velike težave z dvojniki. Kako natančni so ti programi, lahko le ugibamo.
Tehnologija, ki jo hranijo algoritmi podatkov iz realnega sveta, je nujno okužena s predsodki družbe in nepopolna, predstavljajo pa jo kot sveti gral.
Zelo široka uporaba programa podjetja Clearview AI med ameriškimi organi pregona in dejstvo, da številne države po svetu podobne tehnologije že testirajo ali uporabljajo, daje slutiti, da bo prodor digitalizacije tudi v ta del življenja zelo težko preprečiti. Evropska komisija naj bi uporabo avtomatične prepoznave obrazov v EU za nekaj let zamrznila, da bi preverila (ne)varnost tehnologije. A vprašanje je, ali ni zajec že skočil iz klobuka. Tovrstna tehnologija je našla pot tudi v slovensko zakonodajo, ne da bi kdorkoli sploh trenil z očmi. Družba se digitalizira tako hitro, da ob našem analognem vedenju potencialnih nevarnosti niti ne opazimo.
