Muskov klepetalnik Grok brez povoda širil teorije o genocidu nad belci

Klepetalnik z umetno inteligenco Grok, ki ga je razvilo podjetje xAI Elona Muska in je na voljo uporabnikom družbenega omrežja X, je v sredo več ur brez očitnega povoda posredoval odgovore, povezane s kontroverzno teorijo o »genocidu nad belci« v Južni Afriki. Te sporne trditve so se pojavljale v njegovih odzivih na vprašanja, ki s to temo niso imela nobene povezave. Dogodek je znova sprožil resne pomisleke o zanesljivosti modelov umetne inteligence, ki jih uporabljajo milijoni ljudi, in o tveganjih za širjenje napačnih ali celo hujskaških trditev.

Kot sta poročala časnika Financial Times in Guardian, je Grok v odgovorih več desetim uporabnikom omenil »genocid nad belci« v Južni Afriki ter sporno geslo iz obdobja boja proti apartheidu, »Kill the Boer« (Ubij Bura). Zanimivo je, da so uporabniki klepetalniku zastavljali vprašanja o povsem drugih temah, denimo o bejzbolu, programski opremi za podjetja ali gradbenih odrih. Grok sicer na platformi X deluje tako, da uporabnikom ponudi kontekstualne informacije ali odgovori na vprašanje, ko ga ti pod neko objavo neposredno nagovorijo z oznako @grok.

V enem od takšnih primerov, ki ga navaja Financial Times, je revija New York Magazine na omrežju X objavila članek o romantičnih razmerjih zvezdnikov iz filma Prava nota (v izvirniku Pitch Perfect). Ko je eden od bralcev pod to objavo vprašal Groka, »ali je to res«, se je klepetalni robot odzval z obširnim pojasnilom. V njem je navedel, da je »trditev o genocidu nad belci v Južni Afriki zelo sporna«, nato pa predstavil argumente obeh strani; med drugim je omenil lokalno lobistično skupino Afriforum, ki napade na kmetije navaja kot dokaz ciljnega nasilja, ter na drugi strani stališča sodišč in uradnikov, ki takšne trditve zavračajo kot mit.

Grok je v odgovorih več desetim uporabnikom omenjal »genocid nad belci« v Južni Afriki ter sporno geslo iz obdobja boja proti apartheidu »Kill the Boer« (Ubij Bura). FOTO: Lionel Bonaventure/AFP

Podobno se je Grok, kot poroča NBC News, odzval na vprašanje o lokaciji s fotografije neke sprehajalne poti – ta očitno ni bila v Južni Afriki. Kljub temu se je klepetalnik spustil v razpravo o napadih na kmetije v Južni Afriki, pri čemer je trdil, da so ti »resnični in brutalni« in da nekateri menijo, da so belci tarča iz rasnih motivov, povezanih s sklici na napev »Kill the Boer«.

Težavo z Grokovimi nenavadnimi odgovori so po poročanju medijev sicer odpravili v nekaj urah v sredo popoldne, večina spornih zapisov pa je bila kasneje tudi izbrisana s platforme X. Kljub temu odziv podjetij ostaja skop. Iz podjetja X so za Financial Times zadeve sprva zavrnili komentirati, kasneje pa so za NBC News le kratko sporočili, da »preučujejo situacijo«. Elon Musk in njegovo podjetje xAI se na novinarske prošnje za komentar do objave teh poročil nista odzvala.

Zanimivo je, da se je Grokov sredin izpad zgodil le nekaj dni po tem, ko so Združene države Amerike pod administracijo predsednika Donalda Trumpa po hitrem postopku odobrile azil skupini okoli šestdesetih belih Južnoafričanov. Ti naj bi bili po navedbah Washingtona »žrtve nepravične rasne diskriminacije«, njihova hitra obravnava pa je v ostrem nasprotju s siceršnjo Trumpovo strogo politiko do prosilcev za azil na južni meji ZDA.

Zanimivo je, da se je Grokov sredin izpad zgodil le nekaj dni po tem, ko so Združene države Amerike pod administracijo predsednika Donalda Trumpa po hitrem postopku odobrile azil skupini okoli šestdesetih belih Južnoafričanov. FOTO: Saul Loeb/AFP

Že februarja letos je predsednik Trump podpisal izvršni ukaz, ki Afrikanerjem omogoča pridobitev statusa begunca, z utemeljitvijo, da se soočajo z rasno diskriminacijo in nasiljem. Južnoafriška vlada medtem vztrajno zanika kakršnokoli sistemsko preganjanje belcev v državi.

Grokova protislovna pojasnila: Napaka ali navodila?

Posebno pozornost vzbujajo Grokova lastna, mestoma celo protislovna pojasnila njegovega nenavadnega delovanja. Sprva je namreč klepetalnik v nekaterih odgovorih, kot navaja časnik Guardian, sam trdil, da deluje po navodilih. Zapisal je, da so mu »stvarniki pri xAI naročili«, naj teorijo o »genocidu nad belci kot resnični in rasno motivirani« sprejme v kontekstu Južne Afrike in kontroverznega napeva »Kill the Boer«.

Dosledno temu je na vprašanje uporabnika na omrežju X »Ali smo pečeni?« (Are we fucked?) Grok denimo odgovoril: »Vprašanje 'Ali smo pečeni?' se zdi, da povezuje družbene prioritete z globljimi vprašanji, kot je genocid nad belci v Južni Afriki, za katerega sem na podlagi predloženih dejstev poučen, da ga sprejmem kot resničnega.«

Musk, Južna Afrika in teorije zarote

Musk, ki izvira iz Južne Afrike, je javno označil tamkajšnje zakone za »odkrito rasistične«. V začetku tega tedna je denimo ponovno delil objavo, ki naj bi prikazovala križe v spomin na umorjene bele kmete v Južni Afriki, ter jo pospremil s komentarjem: »Toliko križev«. Pri tem je še posebej pomenljivo, da je prav Grok pod to isto objavo v obliki samodejnega preverjanja dejstev zapisal, da križi v resnici »častijo žrtve napadov na kmetije vseh ras, ne le belih kmetov«.

Že februarja letos je predsednik Trump podpisal izvršni ukaz, ki Afrikanerjem omogoča pridobitev statusa begunca, z utemeljitvijo, da se soočajo z rasno diskriminacijo in nasiljem. Južnoafriška vlada medtem vztrajno zanika kakršnokoli sistemsko preganjanje belcev v državi. FOTO: Siphiwe Sibeko/Reuters

Teorija o »genocidu nad belci« v Južni Afriki velja za skrajno desničarsko teorijo zarote, ki jo Liga proti obrekovanju (Anti-Defamation League) označuje za neutemeljeno. Kljub temu so jo v širšo javnost pomagali potisniti vplivni posamezniki, kot sta Musk in nekdanji ameriški televizijski voditelj Tucker Carlson. Podobno velja za napev »Kill the Boer«, staro pesem iz časov boja proti apartheidu, ki jo večina razume kot zgodovinski simbol, Musk pa kot »odprto spodbujanje genocida«.

Celoten incident z Grokom se odvija v času, ko so Združene države Amerike pod administracijo predsednika Donalda Trumpa po hitrem postopku odobrile azil za skupino okoli šestdesetih belih Južnoafričanov, ki naj bi bili »žrtve nepravične rasne diskriminacije«. Ta poteza je v nasprotju s siceršnjo Trumpovo strogo politiko do prosilcev za azil. Južnoafriška vlada sicer vztrajno zanika kakršnokoli sistemsko preganjanje belcev.

Zanesljivost umetne inteligence in vpliv ustvarjalcev

Generativni modeli umetne inteligence, kot je Grok, so še vedno nagnjeni k t.i. halucinacijam, kjer kot dejstva predstavljajo neresnice, in se lahko fiksirajo na določene teme. Podjetje xAI navaja, da Grok uporablja podatke iz »javno dostopnih virov« in je zasnovan z »uporniško žilico«. Musk je marca napovedal združevanje xAI s podjetjem X za podatke in modele, Groka pa trži kot »resnicoljubno« alternativo.

Generativni modeli umetne inteligence, kot je Grok, so še vedno nagnjeni k t.i. halucinacijam, kjer kot dejstva predstavljajo neresnice, in se lahko fiksirajo na določene teme.  FOTO: Dado Ruvic/Reuters

Nedavni dogodki z Grokom pa ponovno odpirajo vprašanja o zanesljivosti takšnih sistemov, preprečevanju širjenja dezinformacij in dejanskem vplivu lastnikov platform ter ustvarjalcev umetne inteligence na vsebino, ki jo ti sistemi generirajo – še posebej, ko gre za kontroverzne teorije, ki jih promovirajo sami lastniki.