Nobena tehnologija, niti pralni stroj, ni emancipatorna sama po sebi

Prejšnji teden sem na osebnem profilu družabnega omrežja facebook objavil povezavo na recenzijo knjige ameriškega antropologa Jareda Diamonda o dovčerajšnjem svetu (Mladinska knjiga, 2016), ki je izšla v Delovi rubriki Književni listi. Besedilo je bilo v časopisni in spletni izdaji opremljeno z agencijsko fotografijo tradicionalne plemenske družine z otrokom. Toda facebookovi slikovni algoritmi so na posnetku prepoznali neprimerne prvine: goloto in mladoletne obraze. Zato so me seznanili z ukrepom, mi predstavili pravila uporabe družabnega omrežja in pokazali vse objavljene fotografije na mojem profilu, da bi odstranil še morebitne druge nespodobnosti.

Med klikanjem sporočil in opozoril sem se najprej spomnil na lanski norveški primer, ko je Facebook odstranil ikonično in večkrat nagrajeno fotografijo vietnamske vojne, na kateri gola devetletna deklica beži pred napalmom. Algoritmi so posumili na otroško pornografijo in odstranili posnetek, kar je zelo razburilo norveško javnost in odgovornega urednika časopisa Aftenposten Espena Egila Hansena. Na naslovnici je objavil javno pismo ustanovitelju Facebooka Marku Zuckerbergu in ga pozval, da mora kot lastnik vplivne globalne medijske platforme prevzeti odgovornost za algoritemsko cenzuro.

Pri Facebooku so se uklonili protestom in z ročnimi popravki dosegli, da njihovi algoritmi niso več odstranjevali znane zgodovinske fotografije. A je zadrega ostala, saj njihovi programski inšpektorji še vedno odstranjujejo podobe, na katerih prepoznavajo goloto in druge oblike, ki domnevno kršijo pravila spodobnosti. Le da se manj znani in vplivni posamezniki nimajo možnosti pritožiti na njihove odločitve.

Vprašanja algoritemske cenzure niso omejena samo na fotografije in podobe. Še večjo vlogo imajo pri izbiranju novic, kar je zelo nazorno pokazala ameriška predsedniška kampanja. Politični aktivisti, plačanci in spletni dobičkarji so spretno izrabili velike digitalne platforme za širjenje laži, manipulacij in neresnic, ki so vplivale na javno mnenje in po mnenju številnih komentatorjev pomagale zmagati Donaldu Trumpu. Lastnike Facebooka, Googla in drugih velikih digitalnih platform so zato po vsem svetu pozvali, naj se nehajo sprenevedati, da so zgolj nevtralni posredniki informacij in komunikacije med posamezniki. Njihovi algoritmi namreč ves čas presojajo, katere novice bodo prikazali določenim uporabnikom, čigave objave so bolj zanimive in katere kršijo njihova zasebna pravila uporabe storitve.

Pri Googlu so začeli medijske objave na google news prostovoljno označevati kot »preverjene«, če so izdajatelji upoštevali njihova pravila za preverjanje dejstev. Facebook pa bo moral pred letošnjimi nemškimi volitvami za nemške uporabnike namestiti posebne filtre za ugotavljanje lažnih novic, saj so se nemški zakonodajalci ustrašili, da se jim lahko ponovi ameriška izkušnja. Ampak kako učinkoviti so sploh lahko takšni algoritemski uredniki? V mojem primeru so pokazali, da ne znajo ločiti pornografije od antropološke fotografije, ki je bila objavljena v nacionalnem časopisu in jo ponuja velika novičarska agencija. Kako bodo tako nezanesljiva orodja presojala o svobodi izražanja, resnici in lažeh, ki imajo lahko v politiki in medijih usodne posledice?

Algoritem je kot otrok

»Računalniški algoritmi so zelo podobni majhnemu otroku,« je povedala Lorena Jaume-Palasi, filozofinja, dobra poznavalka internetne politike in soustanoviteljica nemške nevladne organizacije Algorithm Watch. »Vse razumejo dobesedno, ne poznajo pomenskih odtenkov in diplomacije. Pozorno opazujejo naše obnašanje, prepoznavajo vzorce in nas posnemajo. Radi kolesarite in kupujete knjige o vrtnarjenju? Potem vam bodo izbirali sporočila o kolesih in vrtičkarstvu. Ste na družabnem omrežju večkrat delili namige, da je ameriška predsedniška kandidatka Hillary Clinton vpletena v pedofilsko mrežo, ki za krinko upravlja mrežo picerij? Torej vam bodo poskušali ustreči s podobnimi novicami in vas spoprijateljiti s posamezniki, ki podobno razmišljajo.«

Na njihovo delovanje ne vplivajo nikakršne teorije zarote, mi je jeseni povedala na konferenci Mapping v Pragi (pogovor sva ta teden dopolnila po telefonu). Spletna družabna omrežja trgujejo s pozornostjo – enako kot novi in tradicionalni mediji. Uporabnike poskušajo čim več časa zadržati na spletnem mestu ali v aplikaciji ter jih prepričati, da pri njih objavljajo različne vsebine (zapise, fotografije, videe …) in jih delijo z drugimi. Tako želijo pridobiti njihove potrošniške navade in okuse, politična prepričanja in druge podatke, ki jih je mogoče prodati oglaševalcem. Pri tem upoštevajo zelo preprosta psihološka spoznanja, saj se njihovi uporabniki najbolj odzivajo na potrditve – štetje »lajkov« po objavi nove profilne fotografije – ali na vznemirjenje. Objave, ki nagovarjajo čustva, vrednote in prepričanja.

»Poslovni model, ki je Facebooku prinesel na milijarde dolarjev, se je v zadnjih nekaj letih obrnil proti njim,« je prepričana Jaume-Palasijeva. »Kritiki so jim najprej očitali, da so uporabnikom prikazovali polivanje z ledeno mrzlo vodo, medtem ko so se po vseh Združenih državah dvigali protestniki proti policijskemu nasilju nad Afroameričani. To napako so poskusili odpraviti tako, da so poleg uredniških algoritmov zaposlili še človeško ekipo, ki je izbirala pomembne novice in jih uvrščala na časovnico. Nato so konservativni politični komentatorji sprožili kampanjo proti Facebooku, češ da človeški uredniki izbirajo nesorazmerno veliko novic iz progresivnih medijskih virov. Vodstvo podjetja ni hotelo tvegati zamere politične desnice, zato je odpustilo celotno uredniško ekipo in obdržalo samo algoritme. Ti pa so med kampanjo množično objavljali laži in manipulacije, ki bi jih spregledal vsak človeški urednik.«

Pri Facebooku so bili vse bolj zmedeni. Njihov soustanovitelj Mark Zuckerberg se je javno branil, da zanje ne veljajo enaka pravila kot za medije, saj da ne ustvarjajo lastnih vsebin in ne cenzurirajo nikogaršnjih stališč. Tehnološki podjetnik ni vedel, kako naj vrvohodi med tako različnimi zahtevami in pritiski. Zato je odgovoril z edinim jezikom, ki ga pozna. Obljubil je še učinkovitejše algoritme in zmogljivejšo umetno inteligenco, s katero bo preprečil zlorabo omrežja, odstranil lažne novice ter hkrati ohranil kar največjo svobodo izražanja. Kar je nemogoče in nevarno pričakovanje, saj družbenih in političnih vprašanj ne bi smeli prepuščati inženirjem in njihovim tehnološkim popravkom, meni Jaume-Palasijeva.

Novi prostori zasebnosti

To ne velja samo za Facebook. Laži in manipulacije na družabnih omrežjih niso predvsem tehnološki problem. Prav tako ne množično nadzorovanje elektronskih komunikacij, ki ga je razkril Edward Snowden. Ali napoved, da bodo avtonomna vozila in storitve za posredovanje prevozov odpravili večino vozniških služb.

»Ko v državo vstopi ponudnik platforme za izmenjavo prevozov – denimo Uber – in začnejo taksisti protestirati zaradi nepoštene konkurence, se začnemo najprej pogovarjati o tehnologiji,« je dejala sogovornica.

»Zagovorniki trdijo, da so cenejši prevozi, izgube služb in nižji prihodki voznikov naravna posledica tehnoloških inovacij, ki se jim moramo prilagoditi. Kritiki svarijo pred negativnimi posledicami avtomatizacije in bi nove tehnologije najraje prepovedali. Toda oboji pozabljajo, da Uber ni problematičen zaradi tehnoloških inovacij, temveč zaradi izkoriščanja delavcev, nespoštovanja delovne zakonodaje in izogibanja davkom. Takšnih nepravilnosti pa ne more odpraviti drugačen algoritem ali dobra volja lastnikov Uberja, ampak regulacija. Država lahko vsakemu podjetju postavi pravila, ki se jih mora držati, tudi če je globalno ali tehnološko. Če tega ne stori, ni kriva tehnologija, ampak politika.«

Podobno velja za pravico do zasebnosti. Lorena Jaume-Palasi je pojasnila, da so zasebnost doslej zamejevale stene domačega stanovanja ali hiše. Tam posamezniku ni bilo treba ves čas trepetati, da ga bodo brez razloga obiskali policisti in ga zaprli. Pred državo in trgom so ga varovali zakoni in mu omogočili, da se je lahko pogovarjal brez strahu pred cenzuro in kaznijo ter razvijal intimne odnose s partnerjem in otroki. Podobna prostorska opredelitev zasebnosti je veljala tudi doma, saj so prebivalci ločevali dejavnosti v dnevni sobi, kuhinji, spalnici, na stranišču ali v kopalnici, kamor niso brez vprašanja vstopali niti družinski člani.

Zasebnosti v digitalnem svetu ni več mogoče določiti s fizičnimi prostori ali državnimi mejami. Pametni mobilnik je lahko spravljen v hlačnem žepu, torbici ali predalu nočne omarice, njegova vsebina pa je čisto drugje – na oddaljenih računalniških strežnikih, ki jih upravljajo lastniki elektronskih storitev ali njihovi partnerji. Pametni televizorji, povezane naprave in inteligentni elektronski pomočniki ves čas beležijo, kaj počnemo v zasebnih prostorih. Pred nekaj tedni so zvezni policisti v ZDA od Amazona zahtevali dostop do podatkov, ki jih je med umorom njegovega lastnika morda zabeležila njihova govoreča povezana naprava echo. Država in trg lahko danes skoraj neomejeno posegata v zasebne prostore posameznikov, čeprav bi jih morali varovati enaki zakoni in načela kot prej. Tudi zato, ker državljani in politiki nekritično sprejemajo trditve, da interneta ni mogoče regulirati, zato regulacije niti ne zahtevajo več.

»Kako se je velik del javnosti odzval na ugotovitve, da države množično nadzorujejo njihove elektronske komunikacije? S sprijaznjenostjo ali s pozivi, da je treba razviti orodja za šifriranje elektronskega prometa, ki ga ne bi mogla razbiti nobena policija ali obveščevalna agencija. Oba načina sta napačna. Moja vhodna vrata me ne varujejo pred policistom s sodnim nalogom, temveč pred roparji in drugimi nepovabljenimi obiskovalci. Nikakor se nočem sprijazniti s kratenjem svojih državljanskih pravic. Prav tako pa ne verjamem, da država ne sme legitimno poseči v zasebni prostor, kadar utemeljeno sumi na kaznivo dejanje, terorizem ali zlorabe za domačimi stenami. V tem primeru nam ostane samo svet, kakršnega je opisal filozof Thomas Hobbes v delu Leviatan. Družba vseh proti vsem, kjer mora vsak sam poskrbeti zase,« je razmišljala Jaume-Palasijeva.

Demokracije namreč ni mogoče reševati z diktaturo, anarhijo ali razsvetljenim algoritmom. Pomaga le ohranjanje in utrjevanje pridobljenih državljanskih pravic.

Politika novih tehnologij

Pri organizaciji Algorithm Watch zato ne zagovarjajo ukinitve ali omejevanja algoritmov, je zatrdila soustanoviteljica. Algoritmi so izjemno močna orodja, ki jih je mogoče uporabiti v številne koristne namene. Ker odlično zaznavajo in prepoznavajo vzorce, so zelo učinkoviti pri zgodnjem zaznavanju korupcije, pristranskosti sodnikov, medicinski diagnostiki, izobraževanju, upravljanju kompleksnih sistemov in na vseh drugih področjih, kjer je treba prebrati in obdelati velike količine podatkov. Pomagajo nam prihraniti veliko časa in energije. Ne zavede jih prijazen ali zanemarjen obraz, vedno so enako pozorni in se ne utrudijo. Toda njihovo delo ne more biti popolnoma nevtralno, saj so v programskih vrsticah vedno zapisane vrednote, ideologije in poslovni interesi njihovih programerjev.

Ko razmišljamo o družbenih vplivih, moramo vedno upoštevati tudi vprašanje moči: politične, ekonomske ali simbolne. Kdo ima dostop, znanje in pravno zaledje? Kdo lahko uporablja algoritme in na kakšen način? Lahko tudi državljani učinkoviteje nadzorujemo državo ali je tehnologija le okrepila njeno moč na račun naših svoboščin? Je izboljšala življenje delavcev ali samo povečala njihovo izkoriščanje?

Lorena Jaume-Palasi hoče prepričati sogovornike, da je treba algoritme razumeti podobno kot zakonodajo, saj imajo na digitalnih platformah podobno velik vpliv. Uporabniki bi morali vedeti, kdo daje navodila algoritmom, kakšna so ta navodila in kako se nanje pritožimo, kadar kratijo človekove ali državljanske pravice. Lastniki digitalnih platform in družabnih omrežij so privatizirali nekdanje zasebne prostore in človeške dejavnosti, a družbi niso vrnili ničesar v zameno. Prav tako niso prevzeli podobnih obveznosti, kot jih morajo spoštovati upravljavci javne infrastrukture ali podjetja s prevladujočim tržnim deležem na področju telekomunikacij, medijev, farmacevtike in drugih dejavnosti, ki lahko bistveno vplivajo na življenje državljanov.

»Nobena tehnologija ni emancipatorna sama po sebi. Pralni in pomivalni stroj, sesalec in druge iznajdbe dvajsetega stoletja so izumili, da bi pomagali sodobni gospodinji, vendar z njimi niso hoteli spreminjati ženskih družbenih vlog. Ženske bi kljub tehnološkemu razvoju ostale gospodinje, če ne bi postavile političnih zahtev in se borile za enakopravnost. Enako velja za algoritme in druga tehnološka orodja. Imajo velike emancipacijske potenciale, a si jih je treba šele izboriti,« je sklenila Jaume-Palasijeva.

Ko so pri Microsoftu lani predstavili spletno avatarko Tay, so ji naročili, naj se pri spletnih klepetih zgleduje po uporabnikih družabnih omrežij, saj bo zvenela bolj človeško. Po samo enem dnevu so jo morali ugasniti, saj je začela njena umetna inteligenca na omrežju twitter objavljati sovražne in rasistične zapise. Enako napako so ponovili njeni algoritemski nasledniki na družabnih omrežjih, ko so posnemali človeško obnašanje in med ameriško predsedniško kampanjo krepili sovražni govor in priporočali laži. Toda algoritmi niso ustvarjali in delili izmišljenih novic, niso manipulirali z volivci in niso izvolili predsednika, ki je nagovarjal najbolj primitivna človeška čustva.

Če nemški politiki zares pričakujejo, da jih bodo algoritmi obvarovali pred nepopolnostjo demokracije in negativnimi lastnostmi človeške narave, jih čaka ponovitev ameriške politične kampanje. Politični strategi bodo v prihodnjih letih povsod po svetu uporabljali prijeme, ki jih je v zadnjem letu izpopolnil Donald Trump, saj na podobno priložnost čakajo vsi populistični politiki. Njihove izvolitve pa ne bo preprečil nikakršen internetni filter – tudi če ga bodo programerji do takrat naučili ločevati pornografijo od zgodovinske fotografije.