Instagram pod drobnogledom: oglašujejo spolno zlorabo otrok

Preiskava britanskega portala BBC je razkrila resne pomanjkljivosti v oglaševalskem sistemu družbenega omrežja instagram, ki je po ugotovitvah novinarjev v Indiji prikazoval plačljive oglase, ki naj bi promovirali vsebine spolne zlorabe otrok.

Oglasi, ki jih je BBC videl na platformi, so vsebovali eksplicitne iskalne izraze ter uporabnike usmerjali na kanale v aplikaciji telegram, kjer naj bi bilo sporno gradivo mogoče kupiti za manj kot en evro.

Preiskava je pokazala, da so se takšni oglasi pojavili kljub temu, da Meta, lastnica Instagrama, trdi, da se vsi oglasi pred objavo pregledajo z avtomatiziranimi sistemi in po potrebi tudi ročno. Ko je BBC enega od njih prijavil, je Instagram po 24 urah odgovoril, da ne krši njihovih skupnostnih pravil.

Kako se je facebook s tožbo proti Italiji dejansko ustrelil v koleno

Kasneje je podjetje Meta sporočilo, da je po razkritjih že onemogočilo več oglasov, suspendiralo račune oglaševalcev ter blokiralo povezave do spornih vsebin. Dodali so, da uporabljajo dodatne zaščitne mehanizme in sodelujejo z ameriškim centrom za pogrešane in izkoriščane otroke, kamor prijavljajo primere suma spolnega izkoriščanja otrok.

V odzivu je Meta poudarila, da »noben sistem ni popoln« in da lahko nastanejo napake pri moderiranju. Zavrnili so očitke, da bi namenoma dopuščali ali spodbujali takšne oglase. Hkrati so poudarili, da se vsebina oglasov preverja z naprednimi sistemi umetne inteligence, o sumljivih primerih pa nato presoja človek. Družba tudi trdi, da je leta 2025 samodejno onemogočila več kot štiri milijone računov zaradi sumljive dejavnosti.

Algoritmi, ki stopnjujejo vsebino

BBC je za raziskavo ustvaril lažni uporabniški račun v Indiji, potem ko je opazil, da instagram že brez iskanja prikazuje spolno namigujoče vsebine. Po navedbah preiskave je algoritem v kratkem času začel uporabniku prikazovati vedno bolj eksplicitne oglase, skupaj s pornografskimi vsebinami, in kasneje tudi oglase, ki naj bi prikazovali spolno zlorabo otrok.

Nekdanji sodnik indijskega vrhovnega sodišča Madan Lokur je opozoril, da bi lahko šlo za resno sistemsko težavo, ki zahteva posredovanje najvišjih institucij. Po njegovem mnenju platforme ne morejo zgolj poslovati z oglaševanjem, temveč nosijo odgovornost za preprečevanje kaznivih dejanj. FOTO: Dado Ruvic/Reuters

Skupno naj bi se v manj kot tednu dni pojavilo okoli 30 različnih oglasov s takšno vsebino, poleg približno 20 z eksplicitno pornografijo za odrasle.

Nekateri še posebej vzbujajo skrb. Med njimi naj bi bili tudi prikaz mladoletnih pri seksualnih dejanjih ter oglasi, ki so eksplicitno navajali starost otrok in jih povezovali z odraslimi. V enem primeru je oglas prikazoval jokajočega otroka z namigom na spolno zlorabo.

Telegram pod drobnogledom

Vsebine iz oglasov so vodile na kanale aplikacije telegram, kjer naj bi bilo sporno gradivo naprodaj. BBC je prijavil več kanalov, pri čemer je bil eden kasneje odstranjen, drugi pa je po navedbah preiskave še naprej objavljal nove vsebine.

V zakulisju burne Zuckerbergove stave na umetno inteligenco

Telegram je sporočil, da je letos odstranil več kot 274.000 skupin in kanalov, povezanih z vsebinami o spolni zlorabi otrok, ter da uporablja kombinacijo avtomatiziranega in ročnega nadzora. Kritiki pa platformi že dlje časa očitajo, da ne stori dovolj za preprečevanje širjenja nezakonitih vsebin.

Opozorila strokovnjakov

Nekdanji sodnik indijskega vrhovnega sodišča Madan Lokur je opozoril, da bi lahko šlo za resno sistemsko težavo, ki zahteva posredovanje najvišjih institucij. Po njegovem mnenju platforme ne morejo zgolj poslovati z oglaševanjem, temveč nosijo odgovornost za preprečevanje kaznivih dejanj.

Velikana na zatožni klopi

Nekdanji podpredsednik facebooka Brian Boland je medtem dejal, da so algoritmi družbenih omrežij zasnovani tako, da uporabnikom prikazujejo vse bolj provokativno vsebino, saj to povečuje angažiranost in prihodke. Po njegovih besedah se je skozi leta tehtnica med varnostjo in dobičkom preveč nagnila v smer monetizacije.

Preiskava ponovno odpira razpravo o odgovornosti tehnoloških velikanov pri nadzoru oglaševanja in vsebin. Čeprav Meta poudarja, da aktivno vlaga v varnostne sisteme, razkritja kažejo na vrzeli, ki omogočajo, da se na platformah pojavljajo izjemno občutljive in nezakonite vsebine.