Google in Facebook zaostrujeta boj proti ekstremizmu

Medijska giganta nameravata izboljšanim orodjem umetne inteligence dodati še človeški faktor.

pon, 19.06.2017, 18:15; spremenjen: 18:32

San Francisco - Potem ko so skrbniki družbenega omrežja Facebook minuli teden sporočili, da bodo z izboljšanimi orodji umetne inteligence okrepili zaznavanje in odstranjevanje sporočil s sovražno vsebino, je dodatne ukrepe za boj proti ekstremizmu v nedeljo napovedal tudi spletni velikan Google. Tehnologiji bodo dodali tudi človeški nadzor.

Facebook in druga družbena omrežja so bila še posebej v zadnjem času deležna očitkov, da premalo storijo za zaznavanje in odstranjevanje zapisov z ekstremistično vsebino na svojih straneh. Prva dama oddelka za globalno politiko pri Facebooku Monika Bickert in vodja tamkajšnje ekipe za boj proti terorizmu Brian Fishman sta po poročanju francoske tiskovne agencije AFP minuli teden prek skupnega zapisa na blogu sporočila, da se je Facebook v boju proti ekstremizmu odločil prestaviti v višjo prestavo. »Verjamemo, da sta tehnologija in Facebook lahko del rešitve,« sta poudarila. Med rešitvami sta navedla bolj učinkovito tehnologijo za prepoznavanje fotografij in njihovo odstranjevanje z omrežja.

Posebni filtri za vsako objavljeno fotografijo in video posnetek preverijo, ali je podoben enemu od tistih, ki so ga zaradi obtožb o terorističnem ozadju v preteklosti izbrisali z omrežja. Če bo podrobnejši pregled pokazal na spornost fotografije oziroma posnetka, bo ta izbrisan. Na preizkusu je tudi program, ki bo prepoznaval besede in fraze, pogosto uporabljene v besedilih v podporo terorizmu. Podoben program naj bi skušal izslediti tudi profile, strani in objave, ki po značilnosti ustrezajo tistim s teroristično vsebino.

Ne glede na vse pa pomemben dejavnik pri odkrivanju ekstremističnih vsebin še vedno ostajajo uporabniki, ki lahko prijavijo po njihovem mnenju sporno vsebino. Dodatna prizadevanja so obljubili tudi pri Googlu, kjer kot problematične med drugim vidijo posnetke na priljubljenem kanalu z video vsebinami YouTube. Tega skrajneži namreč pogosto uporabljajo za širjenje svoje ideologije, saj je vsebine nanj enostavno in hitro nalagati.

»Čeprav smo leta delali na prepoznavanju in odstranjevanju vsebine, ki ni v skladu z našo politiko uporabe, je neprijetna resnica, da mora naš sektor storiti več,« je na blogu zapisal glavni Googlov pravnik Kent Walker. Ob tem je kot problematično med drugim izpostavil vprašanje avtorstva vsebine, saj je lahko video posnetek s teroristično vsebino po njegovih besedah nič drugega kot del informativne oddaje ene od televizij. Hkrati pa lahko gre tudi za promocijsko gradivo skrajnežev.

Poleg tehnologije bodo okrepili tudi človeško ekipo, saj »strokovnjaki še vedno igrajo vlogo v številnih primerih odločitev o meji med nasilno propagando ter verskim oziroma objave vrednim medijskim besedilom«. Google bo povečal tudi seznam nevladnih organizacij, s katerimi sodeluje pri filtriranju neprimernih vsebin. Trenutno jih je 63, dodati pa jih nameravajo še 50.

Prijavi sovražni govor