Podjetja UI niso niti približno dovolj previdna

Vodja za varnost pri podjetju OpenAI David Robinson je naslednji v vrsti, ki je dal odpoved pri tehnološkem velikanu, in začel opozarjati, da podjetja na področju umetne inteligence pri razvoju te tehnologije niso »niti približno dovolj previdna«. Robinson, ki je vodil pripravo varnostnih poročil, ki so spremljala izdaje novih modelov, je v eseju ob odstopu zapisal, da je v vodilnih podjetjih na področju umetne inteligence potrebna temeljita sprememba kulture. »Strinjam se z drugimi zaposlenimi, ki so pred kratkim odšli, da podjetja, ki razvijajo to tehnologijo, niso niti približno dovolj previdna. Vendar menim, da moramo pogledati globlje od posameznih pravil ali novih zakonov. Govoriti moramo o kulturi,« je poudaril v zapisu za The Atlantic. 

OpenAI je ta teden, potem ko so razkrili incidente pobeglih agentov UI, napovedal, da bo preklical izdajo modela umetne inteligence naslednje generacije, potem ko so raziskovalci med notranjim testiranjem izrazili pomisleke glede varnosti. OpenAI je prav tako začasno ustavil usposabljanje svojih najnaprednejših modelov.

Robinsonov esej sledi odstopu Jacoba Coxona, raziskovalca pri podjetju Anthropic, tekmecu OpenAI, ki je prejšnji mesec zapustil razvijalca klepetalnega robota claude. Opozoril je, da nas umetna inteligenca »lahko do konca desetletja vse ubije« – temu je sledilo opozorilo podjetja Anthropic, da obstaja več kot 10-odstotna verjetnost, da bo umetna inteligenca v naslednjem desetletju iztrebila človeštvo. Kritiki takšnih opozoril pa opozarjajo, da so ta opozorila neznanstvena, saj jih ni mogoče niti potrditi niti ovreči.

Robinson je zapisal, da v Silicijevi dolini primanjkuje zavesti o tem, »kako ravnati z nevarno tehnologijo« in »kaj pomeni skrbeti za ljudi«. Opozoril je, da ima OpenAI »neomejen optimizem« glede reševanja problemov, ko se ti pojavijo, in zapisal, da ta notranja kultura pomeni, da se bodo varnostne pomanjkljivosti le še povečevale, ko bodo sistemi postajali zmogljivejši. »Predstavljajte si 'neposlušne' agente, ki delujejo kot ekipe hekerjev (na primer, ki zadržujejo računalniške sisteme bolnišnic za odkupnino), a nikoli ne potrebujejo spanja,« je zapisal Robinson.

Robinson je pozval k dvema varnostnima spremembama: da se podjetja za umetno inteligenco opirajo na varnostno strokovno znanje z drugih področij, kot sta jedrska energija in letalstvo, ter razvijejo »novo znanost«, ki bo zagotovila, da bo mogoče močne sisteme v prihodnosti obvladati, ko bodo delovali avtonomno.