Vprašanje nadzora nad infrastrukturo je eno ključnih vprašanj prihodnosti

Psihologinja, inženirka umetne inteligence in eden zanimivejših glasov mlajše tehnološke generacije o solarpunku, tehnofevdalizmu, zgrešenih pričakovanjih podjetij in vprašanju, zakaj umetna inteligenca ni nujno investicija, ampak je lahko tudi samo zelo visok strošek.

Ko Lučka Guna govori o umetni inteligenci, ne govori kot nekdo, ki je vanjo zaljubljen. Govori kot nekdo, ki jo razume dovolj dobro, da pred njo ne kleči.

Po izobrazbi je psihologinja, po delu vpeta v svet umetne inteligence, podatkov, jezikovnih modelov in poslovnih rešitev. Sodi med tiste sogovornice, ki znajo tehnološki optimizem hitro prizemljiti z vprašanjem: čemu to sploh koristi? Njena perspektiva je redka, ker ne prihaja samo iz kode, temveč tudi iz razumevanja ljudi, organizacij, kulture dela in meja človeške pozornosti.

V pogovoru za podkast Supermoč sva začeli pri pojmu, ki v poslovnih krogih še ni pogost, a morda pove več o prihodnosti kot marsikatera tehnološka konferenca: solarpunk.

Solarpunk je izraz, ki ga slišimo v poslovnem svetu, a v njem se skriva precej zanimiva ideja, v kateri se povezujejo tehnologija, narava, skupnost in optimizem. Kaj je to?

Solarpunk mi je zelo ljub koncept. Zdi se mi, da trenutna družba vse bolj drsi v smer cyberpunka – v nekakšen temačen, postapokaliptični svet, v katerem tehnologija vlada nad vsem. Solarpunk pa je pozitivnejša različica tega imaginarija.

V njegovem središču je ideja, da lahko visoka tehnologija, ljudje in narava soobstajajo na način, ki omogoča dolgoročno življenje in obstoj sveta. To se mi zdi pomembno, ker smo v veliki okoljski krizi, h kateri svoj delež prispeva tudi generativna umetna inteligenca.

SOLARPUNK: »To je pozitivna alternativa cyberpunku. Medtem ko cyberpunk predstavlja temačen svet, v katerem tehnologija prevlada nad človekom in naravo, solarpunk odpira bolj optimistično možnost: svet, v katerem tehnologija, ljudje in narava sobivajo.«

Podatkovni centri, poraba energije, hlajenje, infrastruktura, potrebna za treniranje in uporabo modelov – nič od tega ni zanemarljivo. Nekaj časa je prevladovalo prepričanje, da morajo biti jezikovni modeli vse večji, ker bodo tako tudi vse boljši. Zdaj pa se zaradi cene, dostopnosti strojne opreme in kompleksnosti infrastrukture pojavlja več manjših, bolj specifičnih modelov z inovativnejšo arhitekturo.

To se ni nujno zgodilo iz altruizma ali želje po rešitvi sveta, ampak iz potrebe. Infrastrukturo je težko dobiti, draga je za vzdrževanje in hlajenje. Podatki o porabi vode in energije so sicer različni in včasih kontradiktorni, vendar je jasno, da količine niso zanemarljive.

To zveni kot kontradikcija sodobnega tehnološkega trenutka: razvoj umetne inteligence je lahko energetsko potraten, hkrati pa se od nje pričakuje, da bo pomagala reševati podnebno krizo. Kje lahko umetna inteligenca dejansko pomaga?

Najprej moram poudariti, da nisem strokovnjakinja za globalno segrevanje ali okolje, zato govorim iz tega, kar opazim, slišim in preberem. Umetna inteligenca že omogoča generiranje novih rešitev, na primer v zdravstvu, kemiji in razvoju novih spojin. Podobno bi jo lahko uporabili pri iskanju inovativnih načinov hlajenja podatkovnih centrov ali razvoju učinkovitejših arhitektur modelov.

Veliko je odvisno od tega, kam usmerimo tehnologijo. V podjetjih je pomembno, da rešitve oblikujemo tako, da generativne modele uporabimo samo takrat, ko jih res potrebujemo. To ni le ceneje, ampak je lahko tudi okoljsko bolj smiselno, če je podjetje zavezano trajnosti.

SHADOW AI: »To je eno največjih poslovnih tveganj, saj zaposleni uporabljajo javno dostopna orodja umetne inteligence in vanje vnašajo zaupne podatke, interne dokumente, poslovne ideje ali občutljive informacije podjetja.«

Poleg generativne umetne inteligence obstajajo tudi klasični modeli strojnega učenja, ki se uporabljajo za napovedovanje podnebnih sprememb ali redkih vremenskih dogodkov. Na primer točo je mogoče z določenimi modeli dobro napovedovati. To bi bilo smiselno uporabiti vnaprej, tudi za podporo kmetom in s tem za večjo samooskrbo.

V podkastu ste povedali precej provokativno misel: da umetne inteligence v resnici ne potrebujemo, ampak nas je svet prepričal, da jo. Kako je nastal ta občutek nujnosti?

Več dejavnikov je bilo. Ko se je pojavil chatgpt, je bilo to nekaj novega in zelo zanimivega. Postal je senzacija. Podjetja so zelo dobro tržila idejo, da bo umetna inteligenca spremenila vse. Nato se je zgodila neke vrste domino reakcija: evforija linkedina, objave o umetni inteligenci, občutek, da lahko z njo vsi zaslužijo ogromno denarja. Ko ljudje zavohamo možnost velikih zaslužkov, se nam hitro zmeša.

Na individualni ravni je pomembno tudi to, da so pogovorni asistenti vedno na voljo. Z njimi se lahko pogovarjamo kadarkoli in od njih zahtevamo skoraj karkoli. To nam daje občutek absolutnega nadzora, celo nekakšen kompleks boga. Tam je »sodelavec«, ki nikoli ne reče ne in vedno ugaja. To se mi zdi lahko zelo škodljivo.

Raziskave, ki sem jih zasledila, kažejo, da se ljudje pri življenjskih izzivih vse pogosteje raje obračajo na orodja umetne inteligence kot na prijatelje, družino ali ljudi okoli sebe. Razlog je tudi v tem, da takšna orodja pogosto potrjujejo to, kar že mislimo.

Tudi pri analizah forumske vsebine se je pokazalo, da lahko jezikovni modeli validirajo antisocialna ali celo psihopatska vedenja, ker so zasnovani tako, da želijo pomagati in ugajati.

Torej ni problem samo tehnologija, ampak odnos, ki ga z njo vzpostavljamo?

Drži. Trenutni finančni model teh orodij ni nujno tudi vzdržen. Podjetja so dolgo živela od investicij, uporabniki pa plačujejo mesečno naročnino. V prihodnosti se bo verjetno bolj plačevalo po porabi. Skrbi me ideja, da bi umetna inteligenca postala osnovna storitev, kot elektrika ali voda, torej nekaj, brez česar ne moreš in kar moraš plačevati.

TEHNOFEVDALIZEM: »V fevdalizmu je imel moč tisti, ki je nadzoroval zemljo; danes jo imajo tisti, ki nadzorujejo tehnološko infrastrukturo, podatke, platforme in družbena omrežja.«

To bi lahko še povečalo razliko med tistimi, ki imajo dostop, znanje in kapital, ter tistimi, ki tega nimajo.

Tako. Nekateri opisujejo današnji ekonomski model kot tehnofevdalizem. Nadzor ni več vezan na zemljo, ampak na tehnološko infrastrukturo, družbena omrežja in podatke. Za največjimi platformami stoji zelo majhna peščica podjetij.

Slišala sem tudi trditev, da so današnje družbene razlike večje, kot so bile v dejanskem fevdalizmu, vendar bi bilo treba to preveriti. Vsekakor pa je vprašanje nadzora nad infrastrukturo eno ključnih vprašanj prihodnosti.

Ko govorimo o negativnih posledicah umetne inteligence, ljudi najbolj skrbi izguba delovnih mest. Mene skrbi tudi izguba lastnega mišljenja, kritične presoje in medosebnih odnosov. Je izguba delovnih mest najhujša posledica?

V podjetjih, s katerimi sem delala ali se pogovarjala, še nisem zasledila velikih odpuščanj zaradi umetne inteligence. To ne pomeni, da jih ni ali da jih ne bo. Vidim pa, da jih ima veliko že nekaj korakov prej hude težave: sploh niso pripravljena na njeno vpeljavo.

Če tehnologijo samo vržemo v podjetje, brez pripravljenega terena, se to ne bo dobro izteklo. Do prave avtomatizacije je še nekaj maratonov. Je pa to realna možnost. Zato ni dovolj, da govorimo le o orodjih. Pogovarjati se moramo o procesih, kulturi, varnosti, kompetencah in odgovornosti.

Kaj bi bili osnovni koraki pred uvedbo umetne inteligence?

Ena glavnih težav je, da podjetja pogosto nimajo definiranih procesov. Imajo nenapisana pravila, nekonsistentne postopke ali znanje, ki živi samo v glavah posameznikov. Če proces ni določen, ga ne moremo ponoviti in ga težko avtomatiziramo.

Druga stvar je kultura sprememb. Uvajanje umetne inteligence je tehnološki, poslovni in kadrovski projekt hkrati. Vsi trije stebri morajo biti pripravljeni.

Tretje je infrastruktura in varnost. Podjetje mora vedeti, kako bo umetno inteligenco uvedlo na varen način. Kibernetska varnost je že sama po sebi velik izziv, pri umetni inteligenci pa postane še večji.

Problem je tudi tako imenovani shadow AI: zaposleni v javno dostopna orodja vnašajo zaupne ali občutljive podatke podjetja. Ti podatki lahko zapustijo nadzorovano okolje podjetja.

To je še zahtevnejše kot klasično odtekanje poslovnih informacij. Se podjetja sploh dovolj pogovarjajo o tem?

Veliko modelov je bilo treniranih na intelektualni lastnini, za katero je vprašljivo, ali je bila uporabljena etično. Obstajajo tudi etične alternative, na primer na platformah, kot je hugging face, kjer je mogoče najti modele s preglednejšimi podatki in boljšimi okoljskimi lastnostmi.

Ko oblikujemo rešitve, je smiselno pogledati tudi takšne možnosti. Pri slovenščini pa je izziv še večji, ker je majhen jezik in je podatkovnih nizov precej manj kot za velike jezike.

Velika podjetja in institucije danes ustvarjajo svoje interne različice pogovornih asistentov. V sisteme vnašajo dokumente, pravilnike in poslovno znanje. Kako to v resnici deluje?

Takšne rešitve so sklop različnih tehnologij. Ne gre za to, da vse podatke vržemo v jezikovni model in ta potem čarobno odgovori. V takšni uporabi modela običajno ne učimo na novo, ker učenje pomeni, da se spremenijo njegove notranje uteži.

V podjetniškem kontekstu se pogosteje dogaja upravljanje konteksta oziroma context engineering.

Če v proizvodnem podjetju vprašamo, kaj vse je zahtevano pri izhodni kontroli izdelka, mora sistem najprej vedeti, v katerih dokumentih so te informacije. Nato mora iz dokumentov potegniti prave razdelke. Šele potem pride jezikovni model, ki te informacije interpretira in oblikuje odgovor.

Pri rešitvah, ki sem jih razvijala, sem opazila, da je pridobivanje pravih informacij pogosto pomembnejše od samega jezikovnega modela. Če ima model dober kontekst in kakovostne podatke, lahko tudi manjši, cenejši in manj potraten model odgovori dobro.

Zato bi se morali več ukvarjati s kakovostjo iskalnih algoritmov in manj z vprašanjem, ali imamo najnovejši model.

Če pogledava poslovno: trajnost podjetja danes ni samo moralna nujnost, ampak tudi vprašanje uspeha, obstoja in dobička. Ali bo umetna inteligenca prinesla razliko v uspešnosti podjetij?

Zelo je odvisno od strategije. Če rešitve umetne inteligence ne podpirajo poslovne strategije, so same sebi namen. Takrat niso investicija, ampak strošek.

Leta 2024 je bilo veliko rešitev narejenih predvsem zato, ker je bilo moderno imeti chatbota. Danes se bolj ukvarjamo s tem, kako avtomatizirati procese, ki ljudem jemljejo največ časa in imajo velik učinek na podjetje. Če je proces zamuden, drag in pomemben, lahko umetna inteligenca prinese razliko.

Treba pa je imeti realna pričakovanja. Ideja, da bo podjetje za 10.000 evrov doseglo ogromno transformacijo, pogosto ni skladna z resničnostjo. Modeli lahko pomagajo pri pisanju kode in ustvarjanju rešitev, vendar količina kode še ne pomeni kakovosti. Če razvijalec ne razume lastne kode, je to razlog za skrb.

Poseben izziv vidim tudi pri mladih razvijalcih. Če se že od začetka preveč zanašajo na umetno inteligenco, morda težje pridobivajo izkušnje, ki jih vodijo do napredovanja v karieri. Hkrati podjetja vse bolj iščejo seniorje, mladi pa nimajo vedno priložnosti, da bi to raven sploh dosegli.

Kdo danes bere spletne strani, ljudje ali umetna inteligenca?

Oboji. In zato se pravila igre spreminjajo. Podjetja so dolgo razmišljala o SEO [optimizaciji spletnih strani], torej o tem, kako biti čim višje v googlu. Danes pa morajo razmišljati tudi o tem, kako njihove vsebine berejo in razumejo orodja umetne inteligence. Veliko ljudi uporablja chatgpt namesto googla, zato ni več dovolj, da je spletna stran privlačna samo za človeka. Biti mora jasna, strukturirana in razumljiva tudi stroju.

Podjetja pogosto pričakujejo, da bo umetna inteligenca hitro rešila njihove težave. Kje se po vaših izkušnjah najpogosteje zmotijo?

Najpogosteje se zmotijo v tem, da začnejo pri orodju, ne pri problemu. Umetna inteligenca ni čarobna palica, ki jo dodamo podjetju in pričakujemo, da bo vse delovalo bolje. Če podjetje nima jasnih procesov, urejenih podatkov in razumevanja, kaj želi izboljšati, potem umetna inteligenca hitro postane strošek, ne investicija.

Najprej je treba vedeti, kateri proces je zamuden, drag ali poslovno pomemben. Šele potem se je smiselno vprašati, ali ga lahko umetna inteligenca izboljša.

Ker se podkast, v katerem ste gostovali, imenuje Supermoč, vas moram vprašati, kje vidite supermoč tega trenutka.

Slaba sem v napovedovanju prihodnosti. Dobra stvar je, da se najhujše stvari, ki sem se jih bala, do zdaj večinoma niso uresničile.

Mislim pa, da je glavna supermoč prilagodljivost na spremembe. Spremembe so hitre in zahtevne. Z njimi imajo težave ljudje in organizacije, še posebej tiste, ki so rigidne ali okostenele.

Druga supermoč je iskanje ravnovesja. Nove tehnologije je smiselno uporabljati, vendar ne tako, da se zaletimo v vsako novost. Potrebujemo odmik. Vsak posameznik, podjetje ali država mora ugotoviti, kaj je skladno z njegovo nišo, cilji in vrednotami.

Tudi sama ne bom nikoli človek, ki bo spremljal vsak najnovejši model in vsak tehnični premik. To ni moj fokus. Ne moreš se osredotočati na vse. Treba je imeti disciplino, da si izbereš fokus in mu slediš. V sedmih sekundah pozornosti je ta zelo dragocena, zato jo moramo varovati.