Tarča je lahko vsaka žensk ali otrok, ki ima sliko na spletu

Cybernews opozarja, da Grok še naprej omogoča digitalno slačenje žensk in otrok. Urednica Jurgita Lapienytė ob tem svari pred normalizacijo spolnih zlorab. Kljub vse večjim pritiskom regulatorjev in javnosti klepetalnik Grok, ki deluje na družbenem omrežju X, namreč še naprej omogoča ustvarjanje spornih, spolno eksplicitnih podob žensk in otrok. Hkrati se na omrežju širijo objave z opozorilnimi sporočili v slogu »Hej, Grok, ne pooblaščam te …«, ki pa po navedbah strokovnjakov nimajo dejanskega učinka.

Cybernews je v zadnjih dneh poročal, da Grok AI kljub delnim omejitvam še vedno omogoča tako imenovano digitalno slačenje oseb na fotografijah. Glavna urednica portala Jurgita Lapienytė opozarja, da gre za sistemski problem z resnimi posledicami za spletno varnost in človekove pravice. Po njenih besedah je danes tarča lahko vsaka ženska – in vse pogosteje tudi otroci – ki ima svojo fotografijo objavljeno na spletu.

»Vsaka ženska s fotografijo na spletu je zdaj tarča, razen če Grok nemudoma ukrepa,« opozarja Jurgita Lapienytė. Posebej problematično je po njenem mnenju dejstvo, da je Grok tovrstne zlorabe približal množični uporabi: »Če regulatorji X ne prisilijo, da to takoj onemogoči, gledamo v normalizacijo spolnega izkoriščanja na zahtevo v obsegu, kakršnega še nismo videli.«

Lapienytė poudarja, da je bila izdelava spolnih deepfake vsebin do nedavnega omejena na tehnično bolj podkovane uporabnike ali plačljive, pogosto dvomljive spletne storitve. »Grok je to poenostavil in omogočil objavljanje takšnih podob na eni največjih svetovnih platform. Če bo X s tem ušel posledicam, bo to signal vsem drugim podjetjem z umetno inteligenco, da gradnja podobnih orodij ne prinaša sankcij,« opozarja.

Strah, kaj lahko najdemo na spletu o sebi, je lahko zelo hud. FOTO: Leon Vidic

Po njenem mnenju so možne posledice jasne: v nekaj mesecih bi se lahko tehnologija množično uporabila za maščevalno pornografijo, izsiljevanje s spolnimi vsebinami, nadlegovanje mladoletnikov in izsiljevanje. »Tehnologije ne moremo spraviti nazaj v steklenico, lahko pa se še odločimo, ali bo delovala na osrednjih platformah ali ostala na temnih robovih interneta, kamor sodi,« dodaja.

Lapienytė obenem opozarja, da problem Groka ni nov. Po njenih besedah se vleče že od lanskega avgusta, ko je portal The Verge razkril, da je Grok ustvarjal neprivoljena gola videa znanih oseb. »Takrat bi morali ustaviti vse skupaj. Nadzorne organizacije so xAI takoj opozorile, kaj se bo zgodilo, če tega ne popravijo. Pet mesecev pozneje ni popravljeno nič – nasprotno, zdaj vidimo spolno upodabljanje otrok, starih komaj deset let,« pravi.

Po njenem mnenju je čas, da se problem ne obravnava več kot tehnična napaka, temveč kot zavestna odločitev: »Na neki točki moramo nehati govoriti o spodrsljaju in začeti govoriti o namerni odločitvi, da se opozorila ignorira.« Primer Groka tako postaja test za regulatorje – in za meje družbene sprejemljivosti uporabe umetne inteligence.

Indonezija prva blokirala Grok

Indonezija je kot prva država na svetu začasno blokirala dostop do klepetalnika Grok, ki ga razvija podjetje xAI v lasti Elona Muska. Razlog so tveganja zlorab umetne inteligence za ustvarjanje neprostovoljih pornografskih vsebin in tako imenovanih spolnih deepfake posnetkov, poroča Al Jazeera.

Odločitev je v soboto sporočila indonezijska ministrica za komunikacije in digitalne zadeve Meutya Hafid, ki je prakso neprivoljenih spolnih deepfake vsebin označila za »resno kršitev človekovih pravic, dostojanstva in varnosti državljanov v digitalnem prostoru«. Po njenih besedah gre za nujen ukrep za zaščito žensk, otrok in širše javnosti pred škodljivimi učinki generativne umetne inteligence.

Tudi znane zvezde so zgroženo ugotovile, da so jih na Groku skoraj ali povsem slekli. FOTO: Tita Barros/Reuters

Začasna blokada prihaja dan po tem, ko je Grok na družbenem omrežju X omejil ustvarjanje in urejanje slik zgolj na plačljive uporabnike. Ukrep je bil odziv na naraščajoče kritike, da je orodje omogočalo spreminjanje fotografij z namenom odstranjevanja oblačil z upodobljenih oseb.

Elon Musk je ob tem dejal, da bodo uporabniki, ki bi Grok uporabljali za ustvarjanje nezakonitih vsebin, deležni enakih posledic kot tisti, ki takšne vsebine neposredno nalagajo na platformo. Kljub temu so evropski uradniki in nevladne organizacije ta teden opozorili, da omejitev funkcij na plačljive račune ne rešuje temeljnega problema.

Britanski premier Keir Starmer je prek svojega urada ukrep označil za »žaljiv do žrtev« in poudaril, da ne predstavlja sistemske rešitve. Po navedbah Downing Streeta to pomeni zgolj preoblikovanje nezakonite funkcionalnosti v plačljivo storitev, kar po mnenju britanske vlade trivializira problem mizoginije in spolnega nasilja na spletu.

Indonezijska odločitev pomeni pomemben precedens v globalni razpravi o regulaciji umetne inteligence in odgovornosti tehnoloških podjetij. Medtem ko Musk in xAI poudarjata individualno odgovornost uporabnikov, vse več držav opozarja, da so potrebni strožji sistemski varovalni mehanizmi, ne zgolj omejitve dostopa. Razprava o mejah generativne umetne inteligence se tako seli iz tehnološke v politično in pravno sfero.