Omrežje X sprejelo ukrepe za omejitev orodja, ki ustvarja otroško pornografijo

Klepetalnemu robotu grok so njegovi ustvarjalci prepovedali, da na prošnjo uporabnikov omrežja X še naprej ustvarja ponarejene fotografije razgaljenih otrok in žensk, poroča BBC. Orodje grok je razvilo podjetje za umetno inteligenco xAI v lasti milijarderja Elona Muska.

Muskov grok na omrežju X ustvarja seksualizirane fotografije otrok

Prepoved bo veljala samo v državah, kjer ponarejanje fotografij in posnetkov razgaljenih ljudi prepoveduje zakon.

»Uvedli smo tehnološke ukrepe, ki orodju grok preprečujejo, da spreminja fotografije resničnih ljudi in jih prikazuje v oblačilih, kot je na primer bikini. Prepoved velja za vse uporabnike, vključno z naročniki,« so pristojni zapisali v objavi na omrežju X.

Poleg tega bodo lahko s pomočjo orodja grok fotografije urejali le še naročniki na omrežje X, saj bodo ob morebitnih podobnih kršitvah pri podjetju uporabnike kaznovali v skladu s spletnimi pogoji uporabe omrežja, so še dodali.

Pri podjetju so spremembo naznanili po tem, ko je tožilec zvezne države Kalifornije začel preiskovati razširjenost seksualnih spletnih ponaredkov, vključno z gradivi, na katerih so otroci.

Musk je v sredo na družbenem omrežju X zapisal, da lahko grok ustvarja vsebino, ki omogoča »goloto zgornjega dela telesa izmišljenih odraslih ljudi (ne pravih)«, če imajo uporabniki vklopljen t. i. odrasli način. »Tako velja povsod po Ameriki. V državah in regijah z drugačnimi zakoni bo ta sposobnost prilagojena,« je še zapisal tehnološki mogotec.

Spolne zlorabe otrok niso sodobni fenomen

Musk je sicer pred kratkim branil omrežje X in objavil, da kritiki želijo »zatirati svobodo govora« skupaj z dvema ponarejenima fotografijama britanskega premiera Keira Starmerja v bikiniju, poroča BBC.

Oster odziv držav

Prvi državi, ki sta zaradi ponarejanja fotografij ter seksualiziranja žensk in otrok začasno prepovedali grok, sta bili Malezija in Indonezija.

S pomočjo umetne inteligence grok bodo fotografije lahko urejali le še naročniki na omrežje X. FOTO: Lionel Bonaventure/AFP

Pri britanski platformi za reguliranje komunikacijskih storitev Ofcom so v ponedeljek dejali, da bodo raziskali, ali je omrežje X kršilo britanski zakon glede seksualiziranih fotografij. Premier Starmer je omrežje X posvaril, da bodo izgubili pravico do samoregulacije, če ne omejijo sposobnosti orodja grok. Kasneje je podjetje pohvalil, ker sprejemajo ukrepe, da bi težavo zajezili, poroča BBC.

Nekateri britanski politiki so izbrisali račune na omrežju X v znamenje protesta proti ponarejenim fotografijam in poseganju v človekove pravice.

Podjetje X se na zlorabe ni odzvalo dovolj hitro

Kalifornijski generalni državni tožilec Rob Bonta je v sredo dejal: »Gradivo, ki prikazuje ženske in otroke gole ali v seksualno eksplicitnih situacijah, uporabljajo za nadlegovanje ljudi povsod po spletu.«

Raziskovalka spletnih pravilnikov Riana Pfefferkorn je bila presenečena, da je podjetju X vzelo toliko časa, preden so uvedli nove varnostne ukrepe proti groku. Sposobnost urejanja fotografij bi morali odstraniti takoj, ko so opazili zlorabe, je še dodala.

Kljub temu da so pri podjetju X uvedli nekatere varnostne ukrepe, ostaja vprašanje, kako bo grok ločil, ali je fotografija, ki jo uporabnik želi spremeniti, narejena z umetno inteligenco ali je na njej resnična oseba. Poleg tega ni jasno, kako bo omrežje sankcioniralo uporabnike, ki kršijo njihov pravilnik, je izpostavila Pfefferkornova in dodala, da tudi Musk zadeve ne jemlje resno, glede na to, da sam objavlja fotografije Starmerja v bikiniju.