Kdo se lahko pritoži zaradi cenzure na facebooku?

V prvem tednu novega leta sem v Delovi rubriki Književni listi objavil recenzijo knjige ameriškega antropologa Jareda Diamonda Dovčerajšnji svet (Mladinska knjiga 2016). Diamond je v njej predstavil tradicionalne človeške skupnosti iz časov, ko so se nomadski tropi in horde še združevali v plemena, tisočletja pred prvimi državami. Naslednji teden sem povezavo na članek objavil na svojem osebnem elektronskem profilu na facebooku, čez nekaj dni pa me je ob prijavi pričakalo obvestilo, da sem z objavo knjižne recenzije prekršil pravila o uporabi družabnega omrežja.

Prispevek o dovčerajšnjem svetu smo opremili s fotografijo agencije Reuters, na kateri je novinar upodobil skupino žensk in otrok, ki živijo v plemenski skupnosti. Ko so fotografijo pregledali računalniški algoritmi – pri Facebooku analizirajo vsako naloženo fotografijo –, so jih zmotili določeni elementi, v katerih so prepoznali goloto: ženske prsi in neoblečene otroke. Ocenili so, da je fotografija problematična, zato so odstranili povezavo na članek. Na obvestilo se nisem mogel pritožiti, ampak so me poslali na krajši uporabniški tečaj. V nekaj točkah so mi razložili pravila uporabe omrežja, mi pokazali vse objavljene fotografije in predlagali, naj odstranim še morebitne druge sporne vsebine. Na koncu tečaja sem moral še oceniti uporabniško izkušnjo z obrazkom – od nasmejanega do zelo nesrečnega.

Izbral sem najbolj nesrečen obrazek in si prislužil dodaten korak: okvir, v katerega sem lahko vpisal svojo pritožbo. Pojasnil sem, da so odstranili povezavo na novinarsko besedilo, ki je bilo objavljeno v nacionalnem časopisu. Opisal sem članek in fotografijo, utemeljil njeno objavo in zahteval, da morajo povezavo vrniti na mojo časovnico. Ker do konca delovnega tedna ni bilo odgovora, sem sestavil daljše pismo in ga naslovil na tiskovno središče Facebooka. Tokrat sem še podrobneje opisal problem, dodal nekaj novinarskih vprašanj in jih opozoril na nevarnosti algoritemske cenzure. Še enkrat sem zahteval, naj mi objavo vrnejo na časovnico skupaj s sporno fotografijo ali vsaj uradno razložijo, kakšna je njihova uredniška politika.

Čez nekaj dni se je oglasil Jan Ściegienny, glavni komunikator pri Facebooku za regijo vzhodne in srednje Evrope. Obljubil je, da se bodo »posvetili mojemu primeru« in mi »čim prej« odgovorili na vprašanja. Ko sem se naslednji večer doma prijavil na svoj profil, me je pričakalo novo obvestilo. Obvestili so me, da je sodelavec Facebooka »pomotoma odstranil« mojo objavo, in se opravičili. Povezavo so – skupaj s fotografijo, komentarji in priporočili – vrnili na časovnico. Dopoldne me je Ściegienny po elektronski pošti povprašal, ali so zadovoljivo rešili mojo pritožbo, in še enkrat obljubil odgovore. Nanje sem čakal še približno en teden.

Kdo se lahko pritoži

Prigoda z algoritmom, ki so ga na Reutersovi fotografiji zmotile gole prsne bradavičke, je zelo nazorno razkrila nekatere velike zadrege sedanje informacijske krajine.

Največje elektronsko družabno omrežje na svetu uporablja že skoraj dve milijardi Zemljanov, ki na osebne profile vsak dan naložijo približno dvesto milijonov fotografij. Na Facebooku se trudijo spodbujati takšno obnašanje, ker jim dejavni uporabniki povečujejo vrednost podjetja in oglasne prihodke. Hkrati morajo zmanjšati tveganje, da bi domnevno nespodobne fotografije vznemirile njihove uporabnike ali da bi njihovo omrežje naselili razpečevalci odrasle in otroške pornografije.

Ker tako velike količine informacij ni mogoče pregledovati ročno, so razvili računalniške algoritme za prepoznavanje oblik in obrazov, ki zaznajo in odstranijo morebitne sporne motive. Toda algoritmi niso najboljši presojevalci človeškega izražanja. Lani je takšen algoritem odstranil večkrat nagrajeno zgodovinsko fotografijo vietnamske vojne, na kateri gola devetletna deklica beži pred napalmom, saj je posumil na otroško pornografijo. Ta odločitev je razjezila norveško javnost in odgovornega urednika časopisa Aftenposten Espena Egila Hansena, da je ustanovitelja Facebooka Marka Zuckerberga obtožil cenzure. Samo nekaj mesecev pozneje so bili na Facebooku deležni ravno nasprotnega očitka: da so njihovi premalo prizadevni algoritmi med ameriško predsedniško tekmo omogočili širjenje laži, manipulacij in neresnic. Zato bodo morali pred letošnjimi nemškimi volitvami za uporabnike namestiti posebne filtre za ugotavljanje lažnih novic.

Pri Facebooku so se morali naučiti odgovarjati na očitke, ki jih uredniki tradicionalnih medijev zelo dobro poznajo. Če so njihovi algoritmi preveč previdni, jih bodo obtožili cenzure. Če bodo na svoji platformi dovoljevali neomejeno objavo in distribucijo vsebin, bodo morali prej ali slej odgovarjati za posledice – podobno kot medijski tabloidi. Na resnost problema kaže tudi hiter odziv na mojo pritožbo, saj še lani ne bi mogel pričakovati odgovora ali »osebne obravnave«, med katero so izbrisano objavo ročno vrnili na mojo časovnico. Pa tudi njihovi odgovori, v katerih so se izognili vsem vprašanjem in poslali samo nekoliko razširjeno obrazložitev njihovih pravil za uporabo omrežja.

Ściegiennyja sem vprašal, ali so pravila enaka za vse uporabnike facebooka ali upoštevajo kulturne in druge značilnosti določenega okolja. Večkrat sem ponovil vprašanje, kdaj in v katerih primerih se začnejo s presojanjem vsebine ukvarjati ljudje. Zanimalo me je tudi, ali bi podobno resno obravnavali tudi pritožbo uporabnika, ki ni ravno znana oseba ali novinar nacionalnega medija, saj sem izvedel še za nekatere podobne primere slovenskih uporabnikov. A sem prejel le zagotovilo, da za ravnotežje med svobodo izražanja in zaščito uporabnikov skrbi »več tisoč izurjenih sodelavcev, ki spremljajo več kot trideset jezikovnih območij«.

Pri Facebooku so mojo pritožbo rešili podobno kot v norveškem primeru. Uklonili so se odmevni pritožbi in z ročnim popravkom dosegli, da njihovi algoritmi niso več odstranjevali znane zgodovinske fotografije. Toda takšno reševanje problemov ne bo več dolgo zadovoljilo regulatorjev, politikov in kritikov algoritemske cenzure. Facebook je postal preveč pomemben informacijski vratar, da bi smeli njegovi lastniki sami presojati, kje je meja med svobodo izražanja in neprimernimi vsebinami. Ali se skrivati za domnevno objektivnostjo računalniških urednikov, ki ne poznajo človeških pristranskosti.

Novi informacijski vratarji

Facebook, Google in druga velika internetna podjetja so se doslej izgovarjala, da zanje ne veljajo enaka pravila kot za tradicionalne medije. Njihovi predstavniki so trdili, da so iskalniki in družabna omrežja nevtralne platforme za posredovanje informacij, ki nimajo urednikov in jih ne zanimajo ideološka prepričanja njihovih uporabnikov. Toda lanske raziskave so pokazale, da v ZDA že skoraj polovica odraslih uporabnikov interneta prebira novice samo na časovnici Facebooka. Google in Facebook sta ustvarila oglaševalski duopol s približno 54- in 45-odstotnim tržnim deležem, saj skupaj po javno dostopnih podatkih pobereta skoraj ves denar od spletnega oglaševanja. Kar so številke, ki jih na tradicionalnem medijskem trgu niso dosegle niti največje medijske korporacije.

Njuni elektronski platformi nista nevtralni, saj obe podjetji ustvarita skoraj vse prihodke z oglaševanjem. Na ameriškem preiskovalnem novinarskem portalu Pro Publica so lani predstavili pobudo Breaking The Black Box, v kateri so povabili bralce, naj si namestijo poseben dodatek za spletni brskalnik in jim pomagajo ugotoviti, katere podatke zbirajo pri Facebooku. Ugotovili so, da izdelujejo izjemno podrobne uporabniške profile, kjer ljudi razvrščajo po več kot 50.000 kategorijah – od demografskih podatkov do svetovnega nazora in podrobnosti njihovega zasebnega življenja (družine, razmerje na daljavo …). Od teh profilov pa niso odvisni samo prikazani oglasi, ampak tudi uporabniške in medijske vsebine. Pri Pro Publici so med drugim ugotovili, da imajo revnejši Američani, pripadniki nebelih ras in družbene manjšine čisto drugačen informacijski jedilnik kot belci. Podobne delitve so zaznali tudi glede na politično prepričanje, spol in spolno usmerjenost, kar povečuje učinek mnenjskega mehurčka in ovira prosto kroženje informacij tudi brez formalne cenzure.

Še večji problem je skoraj monopolni dostop do občinstev, ki so ga v zadnjih letih pridobili lastniki velikih elektronskih platform. Facebook je z moje časovnice začasno odstranil samo povezavo na članek, ki je bil še vedno objavljen v tiskani izdaji in ga je bilo mogoče prebrati na spletni strani Dela. Toda številni ustvarjalci, avtorji in ustanove nimajo takšnega privilegija, saj so popolnoma odvisni od osebnega profila na facebooku, ki ga lahko algoritmi kadar koli blokirajo ali izbrišejo brez prave možnosti pritožbe ali človeške obravnave. Zato je treba še naprej vzdrževati tudi tradicionalne spletne strani – kljub manjšemu obisku in pozornosti –, vlagati v razvoj neodvisnih elektronskih platform, podpirati prizadevanja za nevtralnost interneta in vztrajati, da velika informacijska moč prinaša tudi večjo odgovornost. Sploh če od algoritmov ne bomo zahtevali samo preganjanja golote, ampak tudi ločevanje resnice od laži. Kar nas morda čaka že v naslednjih velikih političnih kampanjah.