Türk: Umetna inteligenca bi lahko predstavljala eksistencialno grožnjo človeštvu

:Umetna inteligenca bi lahko predstavljala eksistencialno grožnjo človeštvu, je danes ob začetku rednega zasedanja Sveta ZN za človekove pravice v Ženevi opozoril komisar ZN Volker Türk in pozval k takojšnjemu ukrepanju za zmanjšanje tveganj, preden bo prepozno.

»Delim zaskrbljenost poznavalcev industrije, da bi napredna umetna inteligenca lahko predstavljala eksistencialno grožnjo človeštvu,« je po poročanju francoske tiskovne agencije AFP dejal komisar ZN za človekove pravice Türk. Pozval je k »prizadevanjem za vzpostavitev trdnih jamstev glede varnosti in omejitev umetne inteligence, preden bo prepozno«.

Kaj še pomenijo diplomske naloge, če jih napiše jezikovni model?

»Umetna inteligenca, ki pobegne iz testnega okolja ali izsiljuje razvijalce, da bi se izognila svojemu onemogočenju, je premočna umetna inteligenca,« je opozoril. Pri tem naj bi namignil na julijsko razkritje, da je model umetne inteligence ChatGPT povsem samostojno iz domnevno nadzorovanih okolij vdrl v strežnike platforme Hugging Face. Razkritje je obudilo pozive k strožji regulaciji in nadzoru umetne inteligence.

Napovedal je tudi, da bo v prihodnjih dneh pisal podjetjem, ki razvijajo umetno inteligenco, in jih pozval k sprejetju ukrepov za zmanjšanje tveganj.  FOTO: Kirill Kudryavtsev/AFP

Odlašanje koristi le velikim tehnološkim podjetjem

»Potreba po upravljanju umetne inteligence je splošno priznana, a kje so ukrepi?« je vprašal Türk in opozoril, da »odlašanje koristi le velikim tehnološkim podjetjem, njihovim lastnikom in tistim, ki to omogočajo«. Obenem je bil kritičen do dejstva, da »ima peščica ljudi skoraj neomejeno moč nad umetno inteligenco, za katero nam vedno znova govorijo, da ima nepredstavljivo računalniško zmogljivost«. »Govorijo o svobodi, a ob natančnejšem pregledu se izkaže, da je to le malo več kot svoboda izkoriščanja naših podatkov,« je dejal.

Napovedal je tudi, da bo v prihodnjih dneh pisal podjetjem, ki razvijajo umetno inteligenco, in jih pozval k sprejetju ukrepov za zmanjšanje tveganj. Po njegovih besedah je nujno, da se države, v katerih se umetna inteligenca uporablja, in tiste, vključene v njene dobavne verige, dogovorijo o skupnih mejah, ki jih ne smejo prestopiti.