Vlade naj UI urejajo, ne pa si jo lastijo

Popolnoma jasno je, da morajo vlade prevzeti odgovornost za oblikovanje industrije umet­ne inteligence. Le neodvisne in proaktivne institucije, z regulatorji vred, lahko zmanjšajo tveganja, ki jih skrivajo te tehnologije, hkrati pa zagotovijo, da napredne tehnologije človeško dostojanstvo krepijo in ne spodkopavajo.

Vendar so se vlade na vzpon umet­ne inteligence prepogosto odzvale z resignacijo, s čimer so dejansko priznale, da teh sistemov ne razumejo dovolj dobro, da bi lahko ukrepale. Mnogi oblikovalci politiki sicer menijo, da je za utemeljene ukrepe še prezgodaj.

Družbe so pri prejšnjih tehnoloških revolucijah ravnale drugače. Na primer: pri tanjšanju ozonskega plašča, geoinženiringu ali uvajanju gensko spremenjenih organizmov so vlade posredovale, ko so obstajali verodostojni dokazi o škodi ali ko je postala možnost resne škode prevelika, da bi jo bilo mogoče prezreti. Torej niso čakale na popolno znanstveno gotovost. Na splošno so sprejele pristop, usmerjen v rezultate, pri čemer so se osredotočile na dejanski vpliv na ljudi in od podjetij zahtevale odgovornost za škodo, ki jo povzročajo njihovi izdelki ali tehnologije.

Vlade imajo dolžnost zahtevati oceno vpliva novih tehnologij, preden se te – prenaglo – sprostijo na trg.

Neodvisne agencije, kot so ameriška zvezna uprava za hrano in zdravila (FDA), Evropska agencija za zdravila (EMA) in Evropska agencija za varnost hrane (EFSA), že opravljajo to vlogo na področju hrane in farmacevtskih izdelkov. Seveda nihče ne pričakuje, da bi vladne agencije izumile boljša zdravila kot farmacevtska podjet­ja. Njihova vloga je preveriti, ali so zdravila, ki jih ta podjetja proizvajajo, varna in učinkovita. In kljub desetletjem opozoril, da bo regulacija zavirala inovacije, neodvisni nadzor ni zmanjšal inovativnosti ali konkurenčnosti industrije. Nasprotno, zaradi njega so njena odkritja postala bolj zanesljiva.

Toda ameriška vlada, katere odločitve najbolj oblikujejo svetovni trg umetne inteligence, se je večkrat upirala ureditvi teh tehnologij. Sklicevala se je ravno na prej omenjeni argument, da zakonska ureditev ubija inovacije. K temu je pridala še argument o tehnološki konkurenci iz Kitajske, a dejstvo je, da veliko večino najnaprednejših modelov umetne inteligence še vedno razvijajo v ZDA, medtem ko Kitajska prispeva le majhen delež.

Posredovanje vlad

V skladu z neoliberalnim pristopom, ki je v zadnjega pol stoletja prevladoval pri oblikovanju gospodarske politike, se od vlad na sploš­no pričakuje, da posredujejo šele takrat, ko trgi odpovejo. A ko gre za umetno inteligenco, bi se lahko pristop »počakajmo in bomo videli« izkazal za katastrofalen.

Testiranje modela mythos podjetja Anthropic je na primer pokazalo, da lahko prepozna in izkorišča ranljivosti v vseh glavnih operacijskih sistemih in spletnih brskalnikih. Če bi se najnapred­nejši sistemi umetne inteligence s takšnimi zmožnostmi uporabljali neodgovorno ali prišli v napačne roke, bi lahko ogrozili kritično infrastrukturo, finančne sisteme in nacionalno varnost na globalni ravni.

V romanu 1984 si je George Orwell zamislil tiransko državo, ki je izvajala nadzor prek telekranov. FOTO: Dylan Martinez/Reuters

Administracija ameriškega pred­­sednika Donalda Trumpa je zaradi tega uvedla omejitev dostopa za tuje akterje do najnaprednejših modelov umetne inteligence. S tem hkrati spodbuja druge države, da zmanjšajo odvisnost od ameriških ponudnikov in vlagajo v domače zmogljivosti. To ni način posredovanja, ki bi ga demokratične družbe morale pozdraviti.

Trump je junija to logiko ponesel še korak dlje, ko je predlagal, da bi zvezna vlada pridobila lastniške deleže v podjetjih za umetno inteligenco, da bi »ameriški narod imel koristi«. Le nekaj tednov pozneje je OpenAI po poročanju predlagal, da bi ameriški vladi ponudil petodstotni delež v podjetju.

Vendar lastništva vlade ne smemo zamenjati z javnim lastništvom. Javna dobrina je nekaj, kar lahko uporablja vsakdo in iz česar ni mogoče izključiti nikogar, na primer čist zrak, javni park ali svetilnik. Lastniški delež pa nasprot­no podeljuje lastniške pravice in vpliv nad zasebnim podjetjem, ki jih uveljavlja tista vlada, ki je trenutno na oblasti.

Napredni modeli so že pokazali, česa so sposobni in kaj se lahko zgodi, če pridejo v neprave roke. FOTO: Dado Ruvić/Reuters

Nevarna tveganja

Predlog OpenAI vzbuja globoke pomisleke. Prvi je zasebnost. Predstavljajte si, da se z vprašanji, ki jih nikomur drugemu ne bi nikoli zastavili – kako prekiniti zakonsko zvezo, kako pred družino skriti dolgove ali koga voliti –, obrnete na klepetalnik, kakršen je chatgpt. Zdaj si predstavljajte, da je vlada delni lastnik podjetja, ki upravlja ta sistem.

V romanu 1984 si je George Orwell zamislil tiransko državo, ki je izvajala nadzor prek telekranov. Umetna inteligenca ponuja bolj prefinjeno distopijo, v kateri se nadzor ne začne s prisilo, temveč z zaupanjem. Številni umetnointeligenčne sisteme vse pogosteje obravnavajo kot asistente ali prijatelje, ki jim odgovarjajo.

Druga skrb je institucionalne narave. Vlade obstajajo zato, da zagotovijo, da trgi koristijo družbi, ne pa da bi povečevale vrednost svojih naložbenih portfeljev. Če država postane delničarka v velikih podjetjih za umetno inteligenco, lahko ti cilji pridejo v navzkrižje. Ali bi bili oblikovalci politik pripravljeni žrtvovati vrednost vlad­nih naložb v imenu dolgoročne javne varnosti? Tudi če bi vlade delovale v dobri veri, bi strukturni konflikt interesov – ali celo zgolj občutek takšnega konflikta – spodkopal zaupanje v neodvisnost regulativnih organov.

Poleg tega predlog OpenAI ni nastal na podlagi skrbnega institucionalnega načrtovanja ali demokratične razprave. Zdi se, da gre za ad hoc odziv na politične pritiske, ne pa za del usklajene strategije za urejanje umetne inteligence.

Vlade obstajajo zato, da zagotovijo, da trgi koristijo družbi, ne pa da bi povečevale vrednost svojih naložbenih portfeljev. FOTO: Kylie Cooper/Reuters

Učinkovito posredovanje

Desetletja izkušenj so nas naučila tudi, kako je videti učinkovito posredovanje: neodvisni regulatorji, nepristranske institucije, zaščita pred navzkrižjem interesov in stroge omejitve glede »vrtljivih vrat« med javnim sektorjem in industrijo. Temu znanju se ne smemo odreči ravno takrat, ko ga najbolj potrebujemo.

Za oblikovalce politik obstajajo veliko boljši načini, kako usmerjati trge umetne inteligence v pravo smer. Namesto da postanejo delničarji, bi morale vlade vlagati v močne, neodvisne institucije, razvijati in uveljavljati varnostne standarde ter vzpostaviti jasne ureditve odgovornosti, s katerimi se lahko doseže, da tisti, ki so odgovorni za škodo, povezano z umet­no inteligenco, odgovornost tudi prevzamejo. Prav tako bi morale od multinacionalnih tehnoloških podjetij zahtevati, da plačujejo pravičen delež davkov. Predvsem pa morajo razvijati strokovno znanje v javnem sektorju, potrebno za to, da bodo lahko držale korak s tehnološkim napredkom.

Ti predlogi niso niti najmanj radikalni. Gre za institucionalna orodja, ki so jih uspešna tržna gospodarstva razvila v zadnjih desetletjih, da bi uskladila inovacije z odgovornim upravljanjem. Ne glede na to, kako preoblikovalna je umetna inteligenca, od nas ne zahteva, da na novo izumimo vlogo vlade. Moramo pa to vlogo znova prevzeti. Namesto da postanejo delničarji, bi morale vlade početi tisto, kar najbolje znajo: oblikovati trge v javnem interesu.

––––––

Gabriela Ramos, sopredsednica delovne skupine za neenakosti in razkritja finančnih podatkov v zvezi s socialnimi vprašanji, je nekdanja pomočnica generalnega direktorja za družbene in humanistične vede pri Unescu, kjer je nadzorovala pripravo Priporočila o etiki umetne inteligence, ter nekdanja vodja kabineta pri OECD.

Emilija Stojmenova Duh, izredna profesorica elektrotehnike na Univerzi v Ljubljani, je članica upravnega odbora Fundacije Globethics, članica znanstvenega odbora EU za umetno inteligenco ter nekdanja ministrica za digitalno preobrazbo v Sloveniji.

Avtorske pravice: Project Syndicate, 2026.www.project-syndicate.org