Kdo bo ustavil samodejne ubijalske stroje

Poziv k prepovedi: Sodobne tehnologije prehitevajo pravno ureditev.

Objavljeno
15. februar 2019 06.00
Posodobljeno
15. februar 2019 06.00
Robot SpotMini podjetja Boston Dynamics. 
Foto Issei Kato Reuters
Mojca Vizjak Pavšič
Mojca Vizjak Pavšič
»Kot vsako močno tehnologijo je tudi umetno inteligenco mogoče zlorabiti in prav zato so prizadevanja za prepoved razvoja, izdelave in uporabe avtonomnih orožij izjemno pomembna,« poudarja prof. dr. Matjaž Gams, ki se je pred nedavnim kot vabljeni predavatelj udeležil zborovanja na sedežu Združenih narodov v Ženevi, kjer so obravnavali vprašanja, kako ustaviti hitro robotizacijo vojskovanja in omogočiti varen razvoj človeške civilizacije.

Avtonomna orožja po odkritju smodnika in jedrske energije napovedujejo tretjo revolucijo v vojskovanju.
Znanstveniki opozarjajo na nevarnosti samostojnega orožja, ki izbira in napada tarče brez posredovanja človeka.
Še posebej bi bila lahko nevarna orožja, ki bi bila zmožna avtonomne izdelave ali reprodukcije.
Vse svetovne velesile so nekajkrat povečale vlaganja v to področje.


Človekoljubne organizacije in strokovna združenja s področja umetne inteligence, robotike in informacijsko-komunikacijskih tehnologij opozarjajo na velike nevarnosti samostojnega napadalnega orožja, ki izbira in napada tarče brez posredovanja človeka. Pobudnik razprave v Ženevi je bilo mednarodno gibanje Kampanja za ustavitev ubijalskih robotov, ki ga sestavlja 86 nevladnih organizacij, med katerimi sta tudi dve slovenski, in sicer društvo za umetno inteligenco in društvo za kognitivno znanost.

Robotski sistemi se že uporabljajo tako v zraku kot na kopnem in na morju. »Domala vsa orožja, od strojnic do tankov in letal, že obstajajo v neki avtonomni obliki. Vprašanje je le, ali tudi sama sprožijo ogenj, in prav to je kriterij razlikovanja med avtonomnimi orožji, katerih prepoved si prizadevamo doseči, in orožji, kot je na primer predator, ki se znajo sama vrniti v oporišče ali sama pripeljati do lokacije, za ogenj pa potrebujejo odločitev človeka,« pojasnjuje dr. Gams, državni svetnik in vodja odseka za inteligentne sisteme na inštitutu Jožefa Stefana.
 

Roboti kot živa bitja


Značilen primer avtonomnega orožja so ruske strojnice, ki so jih postavljali in jih še vedno nameščajo na nekatere obrambne položaje in so streljale na vse prihajajoče ne glede na to, kdo so bili. Drugi primer so ruski letalski projektili, ki sami poiščejo tarčo, se pravi temno liso na svetli puščavski podlagi, in jo natančno zadenejo. Veliko prototipov avtonomnih tankov, letal in podmornic so testirali v vseh vojskah svetovnih velesil. Že vrsto let razvijajo tudi večje in manjše naboje, ki zavijajo in lahko zadenejo tarčo za zaklonom.

image
Veliko prototipov avtonomnih tankov, letal in podmornic so testirali v vseh vojskah svetovnih velesil. Foto Koichi Kamoshida Getty Images


Še posebej nevarna bi bila orožja, zmožna avtonomne izdelave ali reprodukcije. Samodejne minipodmornice, denimo, ki bi napadale vsa pomorska vozila in bi se znale same reproducirati, bi lahko močno omejile promet po morju. »Še en možen scenarij prikazujejo na primer filmi o terminatorjih, kjer se vzpostavi samostojen umetni sistem in se spopade s človeštvom. Do tega malo verjetnega pojava bi lahko prišlo le ob izpolnitvi več pogojev, naj omenim samo dva: eden bi bil visoko inteligentna avtonomna orožja, drugi pa priznavanje statusa živih bitij robotom. Zadnji je bil celo na dnevnem redu v evropskem parlamentu, na srečo pa so politiki pravočasno prisluhnili strokovnjakom in na primer avtonomnim vozilom niso podelili statusa živih bitij, kar zadeva pravno odgovornost,« pravi Gams.

Kako srhljiva bi bila lahko prihodnost v družbi avtonomnih ubijalskih strojev, je odlično prikazano v Netflixovi seriji Black Mirror, v epizodi Metalhead. In »pes« podjetja Boston Dynamics je srhljivo podoben filmskim ubijalskim strojem:


Tretja revolucija vojskovanja


Strokovnjaki svarijo, da izdelava avtonomnih orožij vodi v tretjo revolucijo v vojskovanju, prvo je povzročilo odkritje smodnika, drugo pa jedrsko orožje. Kot vse kaže, svetovne velesile za razvoj avtonomnih orožij namenjajo velike vsote. So ti podatki znani? »Ker je umetna inteligenca postala v zadnjih letih izredno uspešna, prav tako robotika oziroma upravljanje vozil, saj obstajajo že tako rekoč povsem avtonomna vozila, vse od avtomobilov do helikopterjev in letal, se je na tem področju začela huda oboroževalna in raziskovalna tekma,« odgovarja Matjaž Gams.

»Vse svetovne velesile so nekajkrat povečale vlaganja v ta področja, posledično tudi Evropska unija, ki bo financiranje najprej dvignila za 70 odstotkov, kmalu pa še za bistveno več. V znanost še vedno največ vlaga Kitajska, v ZDA pa je pred nekaj meseci Pentagon napovedal, da bodo v prihodnjih petih letih namenili dve milijardi dolarjev za raziskave umetne inteligence, ki jih izvaja Darpa, vladna agencija, pristojna za razvoj novih vojaških tehnologij. Sem sodi tudi razvoj vesoljskega orožja. Kot smo izvedeli lani na mednarodni konferenci o umetni inteligenci IJCAI v Stockholmu, bodo ZDA v ta namen ustanovile poseben oddelek, Joint AI Center. Podobno velja za ruske in kitajske raziskave, medtem ko Evropa večino sredstev namenja za odprte raziskave, ki koristijo človeštvu.«


 

Odprto pismo znanstvenikov


Že leta 2015 je več kot tisoč strokovnjakov podpisalo odprto pismo, v katerem so poudarili, da bodo avtonomna orožja postala kalašnikovi prihodnosti, saj v nasprotju z jedrskim orožjem ne zahtevajo dragih ali težko dostopnih surovin – zato jih bodo vse pomembne vojaške sile proizvajale množično in poceni. Posledično se bodo pojavila na črnem trgu in v rokah teroristov, diktatorjev, ki hočejo nadzorovati svoje prebivalstvo, vojskovodij s težnjami po etničnem čiščenju in podobno. Odprto pismo, ki je dostopno na spletni strani inštituta Future of Life, so med drugimi podpisali fizik Stephen Hawking, filozof in jezikoslovec Noam Chomsky, soustanovitelj Appla Steve Wozniak, ustanovitelj Tesle Elon Musk, fizik Max Tegmark in član SAZU dr. Ivan Bratko.

Pozivu, naj OZN sprejme dogovor o prepovedi razvoja in uporabe avtonomnih orožij, se je pridružilo petdeset držav. Slovenije še ni med njimi, čeprav si Matjaž Gams za to prizadeva že vrsto let. Kot pravi, mu politiki pojasnjujejo, da se Slovenija noče izpostavljati v mednarodnem prostoru. »Ta odgovor se mi ne zdi prepričljiv, saj je Slovenija v preteklosti že uspešno izpeljala več akcij v OZN, recimo med mandatom Danila Türka,« dodaja.

Septembra je evropski parlament sprejel resolucijo o prepovedi avtonomnih orožij. Tudi v razpravi o umetni inteligenci in avtonomnih orožjih na ljubljanski pravni fakulteti, ki jo je organiziral dr. Ciril Ribičič, član Beneške komisije pri svetu Evrope, so strokovnjaki opozorili na veliko zaostajanje pravne ureditve za razvojem sodobnih tehnologij, ki se mu človeštvo ne more dovolj hitro prilagajati. O naši prihodnosti bo odločala tekma med rastočo močjo tehnologije in tem, kako modro jo bomo znali uporabljati.