Facebook s pomočjo skrivnega programa nad zlorabe otrok
Družbeno omrežje se je zavezalo, da bo pospešilo odstranjevanje neprimernih vsebin. V treh mesecih so odstranili 8,7 milijona fotografij zlorab otrok.
Odpri galerijo
Program pomaga pri prepoznavanju neprimernih vsebin. FOTO: Blaž Samec/Delo
Iz Facebooka so sporočili, da so odstranili 8,7 milijona fotografij zlorab otrok v zadnjih treh mesecih. Potrdili so, da jih je odkrila programska oprema, o kateri do zdaj niso govorili, ki je označevala goloto in otroke in tako pomagala moderatorjem. Podobno orodje strojnega učenja je ujelo tudi posameznike, ki so iskali mladoletnike za spolno izkoriščanje.
Družbeno omrežje se je zavezalo, da bo pospešilo odstranjevanje neprimernih vsebin in napredna programska oprema je za to nujna. Antigone Davis, vodja varnosti je za Reuters povedala, da programska oprema hitreje najde neprimerne vsebine in jih ponudi v pregled človeškim moderatorjem. Podobno tehnologijo uvajajo tudi v Instagram.
Strojno učenje je še nepopolno in je bilo kar nekaj negodovanja, tako so medijska podjetja in oglaševalci imeli težave, ker so jim Facebookovi avtomatski sistemi napačno blokirali objave. Davisova je dejala, da imajo v tem primeru otrokove pravice prednost in da se vedno lahko uporabniki pritožijo.
Pred tem novim programom, se je Facebook opiral na filtre za goloto odraslih in na prijave uporabnikov. Program se je iz velike baze podatkov o golih odraslih in oblečenih otrok naučil prepoznavanja golih otrok, kar pa je v nekaterih primerih prineslo veliko negodovanja. Spomnimo na primer, ko je družbeno omrežje blokiralo objavo nagrajene fotografije gole deklice, ki beži iz vietnamske vasi, ki so jo napadli z napalmom.
Družbeno omrežje se je zavezalo, da bo pospešilo odstranjevanje neprimernih vsebin in napredna programska oprema je za to nujna. Antigone Davis, vodja varnosti je za Reuters povedala, da programska oprema hitreje najde neprimerne vsebine in jih ponudi v pregled človeškim moderatorjem. Podobno tehnologijo uvajajo tudi v Instagram.
Strojno učenje je še nepopolno in je bilo kar nekaj negodovanja, tako so medijska podjetja in oglaševalci imeli težave, ker so jim Facebookovi avtomatski sistemi napačno blokirali objave. Davisova je dejala, da imajo v tem primeru otrokove pravice prednost in da se vedno lahko uporabniki pritožijo.
Pred tem novim programom, se je Facebook opiral na filtre za goloto odraslih in na prijave uporabnikov. Program se je iz velike baze podatkov o golih odraslih in oblečenih otrok naučil prepoznavanja golih otrok, kar pa je v nekaterih primerih prineslo veliko negodovanja. Spomnimo na primer, ko je družbeno omrežje blokiralo objavo nagrajene fotografije gole deklice, ki beži iz vietnamske vasi, ki so jo napadli z napalmom.
