

Delo menedžmenta in nas voditeljev vidim v tem, da delavce ustrezno usposobimo za okolje, kjer bo treba znanje in kompetence stalno nadgrajevati, odvisno od tega, kam se bo razvijala umetna inteligenca (UI), pravi prvi mož Triglav Investments Benjamin Jošar. Z njim smo se pogovarjali o izzivih, grožnjah in priložnostih, ki jih prinaša silovit tehnološki razvoj UI za podjetja in državljane.
To skrbi večino ljudi, ki se zavedajo moči in potencialov umetne inteligence. Ta primer je zelo zanimiv. Ponazarja, da ni težava, če se model umetne inteligence upre. Težava je, če hoče preveč dobesedno narediti, kar od njega zahtevamo. Pri tem konkretnem dogodku so varnostne nastavitve zanalašč znižali: zahtevali so posebno nalogo od modela umetne inteligence in ta jo je izvršil. Do rešitve je prišel tako, da je vdrl v drug sistem in poiskal odgovor. Nekako tako, kot če bi neki nadobuden študent v profesorjevem računalniku iskal vprašanja za izpit.
Takšni dogodki kažejo na potrebo po regulaciji, načenjajo pa tudi vprašanja vrednot modelov umetne inteligence. Torej, kaj je sprejemljivo in kaj ni. Če bi v umetno inteligenco vgradili vrednote, ki so za človeštvo univerzalne, do podobnih primerov verjetno ne bi prihajalo.
Regulacija je potrebna, a taka, ki spodbuja njen razvoj, ne da ga povsem onemogoča. Razvoj umetne inteligence je zdaj tekma dveh velesil, ZDA in Kitajske. V taki tekmi je regulacija koristnejša, če je v obliki varnostne ograje na dirkališču, ne pa ročne zavore inovacij. Glede potenciala umetne inteligence, o čemer govorijo ustanovitelji podjetij, lahko vidimo izjemno pozitivne poglede, obstajajo pa tudi precejšnja tveganja.
Potreben bo dogovor o minimalnih standardih smeri razvoja in regulacije, morda podobno kot v času jedrskega orožja. ZDA in Sovjetska zveza sta bili na nasprotnih bregovih, a sta premogli dovolj razuma, da sta potegnili črto pred uničenjem sveta. Pri umetni inteligenci potrebujemo globalni dogovor o omejevanju njenih najresnejših tveganj, ne pa mikroupravljanja inovacij. Stvari so vseeno veliko boljše kot pri vprašanju jedrskega orožja, saj lahko umetna inteligenca, če jo pravilno uporabljamo, reši marsikatere probleme, ki jih človeštvo doslej ni zmoglo odpraviti. Do dogovora bo moralo priti tudi zato, da se bo umetna inteligenca razvijala v dobro človeštva – ne pa v dobro umetne inteligence same.
Je predsednik uprave Triglav Investments, ene od vodilnih slovenskih družb za upravljanje premoženja, hkrati je tudi predsednik upravnega odbora Združenja družb za upravljanje. V karieri je zasedal številne vodstvene položaje v bančništvu, zavarovalništvu in investicijskem bančništvu – med drugim v Abanki, KD Group in Zavarovalnici Triglav, danes pa vodi razvoj in strateško usmeritev v Triglav Investments (do lani Triglav Skladi), ki upravlja približno tri milijarde sredstev svojih strank.
Je magister ekonomskih znanosti in alumen Trium Global Executive MBA (NYU Stern, LSE, HEC Pariz). Dodatno se je izobraževal na svetovno priznanih univerzah in poslovnih šolah, kot so Harvard, Wharton, Stanford in INSEAD. Zagovarja trajnostni razvoj in verjame, da ima prav finančna industrija pomembno vlogo pri oblikovanju odgovornejše in bolj trajnostne prihodnosti.
Je široko razgledan sogovornik. Nekoč je dejal, da je njegova najljubša knjiga Božanska komedija, »ker ima sporočila, ki so aktualna tudi danes«.
To bi bil idealen scenarij.
Da, oblikujeta se dva centra celotnega ekosistema, povezanega z umetno inteligenco, ZDA in Kitajska. Evropa, roko na srce, je v zadnjem letu naredila nekaj majhnih korakov v smeri večjega razvoja. A zaostanek se samo še povečuje. Ne zdi se mi verjetno, da bi EU dosegla ali celo presegla oba glavna akterja. Ima pa Unija podjetja, ki so še kako pomembna za digitalni ekosistem, in se lahko še bolj osredotoči na razvoj podjetij, brez katerih se ta ekosistem ne bo mogel razvijati. Drugače se bo enostranska odvisnost še stopnjevala.
Airbus je zanimiva primerjava za to, kar se dogaja s potrebami na področju umetne inteligence v Uniji. Podobno je takrat prišlo do ideje, da Evropa potrebuje svoje letalo. Ta projekt je bil zelo, zelo uspešen. Razlika je v tem, da vprašanje lastnega letala ni bilo časovno akutno. Pri umetni inteligenci se stvari razvijajo neverjetno hitro. Vsak drugi teden prihajajo novi, zmogljivejši modeli. Če bi na ravni EU poskušali ustvariti airbus za umetno inteligenco, se bojim, da bi leta in leta usklajevali strategije, na koncu pa ustvarili popoln produkt za preteklost. Če samo pogledava primer z evropskim lovskim letalom, kjer so priprave popolnoma zastale.

Tako je. Airbus je potreboval dvajset let, da je postal resen igralec. Pri umetni inteligenci nimamo na razpolago niti dvajsetih mesecev. Bojim se, da Evropa tekme ne more več dobiti, če si za nasprotnika postavi ameriške ali kitajske modele. Lahko pa si zagotovi mesto v dobavni verigi glavnih igralcev, ki ga nihče od njih ne more zaobiti.
Vprašanje torej ni, kako zgraditi evropski OpenAI ali Anthropic, ampak kje smo lahko v zahodnem ekosistemu umetne inteligence nepogrešljivi. Lep primer je ASML, javnosti nepoznano nizozemsko podjetje, brez katerega ni možno izdelovati najnaprednejših čipov. Podobno bi lahko ravnali tudi na nekaterih drugih področjih. Vzajemna odvisnost bi postala jamstvo, da bo Evropa vedno imela dostop do najboljših modelov umetne inteligence.
To zagotovo ni dobro in odpira pereča družbena vprašanja. Umetna inteligenca bo prevzemala vedno več opravil, dobički pa se bodo stekali k njenemu lastniku. V ZDA in še kje se načenjajo resne akademske in družbene debate, kako zagotoviti, da se bo del te vrednosti prelil v celotno družbo. Tu je veliko idej in nobenega konsenza. Govora je o državnem lastništvu teh družb, večji obdavčitvi, nacionalizaciji in celo o univerzalnem temeljnem dohodku. Pred 10 ali 15 leti si tega niti v sanjah ne bi predstavljali, zdaj o tem govorijo celo libertarci, kot je Elon Musk.
V južnokorejskem velikanu Samsung se je na primer uprava s sindikati dogovorila, da so delavci v oddelku polprevodnikov dobili enkratni bonus v višini do nekaj sto tisoč evrov za sodelovanje pri ustvarjanju nove vrednosti. Za Slovenijo, ki takih podjetij nima, to pomeni še večjo potrebo po dodatnem investiranju in po pokojninski reformi, o kateri že leta govorimo. Taki, ki bi ustanovila obvezni, na kapitalskih trgih temelječ drugi steber, zato da si državljanke in državljani zagotovimo svoj delež pri ustvarjeni vrednosti. Sicer bomo tudi tukaj potegnili kratko.
Umetna inteligenca bo neizogibno koncentrirala bogastvo. Najboljši način, da ima od nje nekaj tudi povprečni državljan, je lastništvo kapitala. Razvit kapitalski trg je v tej dobi ključni mehanizem za ohranjanje socialnega ravnovesja in blaginje.
Umetna inteligenca ima potencial, da popolnoma spremeni način dela podjetij in tudi to, kar pojmujemo kot delo samo. In ko gre za njeno uvajanje v podjetja: ko je bila odkrita elektrika, je bil prvi impulz ta, da so na gred, ki jo je prej gnala parna energija, namestili električni motor. To je sicer pomagalo, a ni prineslo posebnega preboja. Trajalo je še leta, da so cele tovarne postavili okrog elektrike in možnosti, ki jih je ponujala elektrifikacija.
Na podobni točki smo zdaj pri uvajanju umetne inteligence. Uvajamo jo v obstoječe procese, radikalne prenove poslovnih modelov pa ni. To je začetna točka, ki ne bo dovolj za dolgoročno konkurenčnost slovenskega gospodarstva. Na umetno inteligenco in vodenje sicer gledam kot na vodenje sprememb. Tem v Sloveniji nismo pretirano naklonjeni. A do njih bomo morali priti, sicer s svojimi storitvami in izdelki ne bomo konkurenčni. V prihodnjih letih se bo od slovenskega menedžmenta pričakovalo vodenje velikih sprememb, da bomo ohranili konkurenčnost. V etabliranih podjetjih bo to toliko težje kot v novih. Vemo, da je lažje nekaj zgraditi na novo, kot nekaj utečenega prilagoditi.
Potreben bo dogovor o minimalnih standardih smeri razvoja in regulacije umetne inteligence, morda podobno kot v času jedrskega orožja. ZDA in Sovjetska zveza sta bili na nasprotnih bregovih, a sta premogli dovolj razuma, da sta potegnili črto pred uničenjem sveta.
To je izredno zanimivo vprašanje, ker ni dokončnega odgovora. Na eni strani bo prihajalo do izgube delovnih mest, vprašanje pa je, kakšnih in katerih. Recimo, pred kakimi desetimi leti so bili v ZDA resno zaskrbljeni, da bodo samovozeča vozila popolnoma izpodrinila zelo razširjen poklic voznika tovornjaka. A zdaj tam primanjkuje voznikov tovornjakov, ki so še vedno najbolj pogosta poklicna skupina v ZDA. Na drugi strani so vsi mislili, da ti je prihodnost zagotovljena, če obvladaš programiranje. Razmere so zdaj v prid voznikom tovornjakov, ne pa mladim programerjem, ki le s težavo dobijo prvo službo.
Skratka, na eni strani se bodo pojavile izgube delovnih mest, ki niso fizično delo, ampak kreativno, kognitivno delo, kar se v zgodovini še ni zgodilo. Zato bo toliko pomembnejše vseživljenjsko učenje, da bomo zaposljivi v obdobju umetne inteligence. Prišlo bo sprememb na trgu delovne sile, pojavljala se bodo nova delovna mesta. Delo menedžmenta in nas voditeljev vidim v tem, da delavce ustrezno usposobimo za okolje, kjer bo treba znanje in kompetence stalno nadgrajevati, odvisno od tega, kam se bo razvijala umetna inteligenca.
Eden od največjih pretresov je na področju programiranja. Slovenska podjetja enako uporabljajo umetno inteligenco pri programiranju, kot je razširjeno v svetu. In to bolj velja za podjetja, ki so šele v nastajanju, kot za uveljavljena podjetja.
Uh, zagotovo. Vsi, ki smo v digitalnem marketingu privzeli googlov oglaševalski model, moramo zdaj razmišljati v smeri, kako pozicionirati našo blagovno znamko in produkte, saj se vedno več ljudi želi o svojih nakupih informirati s pomočjo umetne inteligence. To pomeni popolnoma drugačen način razmišljanja. Kar je za nekoga problem, je za drugega priložnost. (Smeh.) In tisti, ki imajo te veščine, najdejo zelo dobre poslovne priložnosti. Enako velja za katerikoli poklic. Kritična kompetenca ne bo samo uporaba umetne inteligence, ampak sposobnost presoje, kdaj ima prav in kdaj se moti.

Če pogledamo konkurenčnost Slovenije, smo najslabše ocenjeni na področju vrednot in stališč, in sicer prav na področju uvedbe digitalizacije, odprtosti do sprememb ter podobno. Ukrepi vlade bi se morali nanašati na to, da celotno družbo pripravi na spremembe, ki neizogibno prihajajo. Omogočiti morajo izobraževanje, da izgine strah pred umetno inteligenco in da uporabljamo in sprejemamo njene rešitve. Ne moremo imeti slovenskega chatgptja, lahko pa imamo za cilj, da smo ena najhitrejših držav EU pri adopciji umetne inteligence. To je sicer enostavno povedati, težje narediti. Izrazit odpor do sprememb je ovira za Slovenijo pri njenem gospodarskem in družbenem razvoju.
Mladi bodo uporabljali umetno inteligenco, pa če bo ali ne bo predmet izobraževanja v šolah. Zato je nujno, da se uporaba umetne inteligence vključi v učni proces na način, da jo učenci uporabljajo kreativno. Da z njo naredijo stvari bolje, kot bi brez nje. In mladi morajo znati ločiti, kdaj ima umetna inteligenca prav in kdaj se moti. Recimo biolog, ki dobro obvlada biologijo, bo z ustreznim znanjem umetne inteligence naredil veliko več kot biolog, ki je ne uporablja.
Naredili smo korake v pravo smer, a smo kljub temu na začetku poti. Še vedno potrebujemo veliko finančnega opismenjevanja in dodatnih spodbud za investiranje. Še toliko bolj prav zdaj, v času ustvarjanja velikega bogastva iz naslova umetne inteligence. Samo če pogledamo, koliko je nekdo, ki ima svoje premoženje v celoti v bančnih depozitih, izgubil v zadnjih letih v primerjavi z nekom, ki sodeluje v ustvarjanju vrednosti, so to ogromne številke. Če pa bo umetna inteligenca pripeljala do t. i. generalne inteligence, bo ta razlika verjetno še večja, kot je zdaj.
Nujno je, da se uporaba umetne inteligence vključi v učni proces na način, da jo učenci uporabljajo kreativno. Da z njo naredijo stvari bolje, kot bi jih brez nje.
Mlade generacije so bistveno močneje izpostavljene temam v povezavi z investiranjem, kot so bile mlade generacije v preteklosti, kar je dober nastavek. Veliko mladih se srečuje s trgovalnimi platformami in ima že konkretne investicijske izkušnje, kar je odlično. Izziv je, kako mlade prepričati tudi za dolgoročno vlaganje.
Če bodo finančne teme vpeljane v učne načrte osnovnih in srednjih šol, bo to še en velik korak naprej. Obstajajo tudi drugačne, zelo učinkovite vzpodbude. Lahko bi na primer uvedli INR [individualni naložbeni račun] za mlade, ki bi bil še posebej davčno ugoden in v katerega bi lahko nekaj prispevala tudi država.
Dogajanje na področju zagonskih podjetij se izboljšuje, a v primerjavah smo pri vlaganjih v tovrstna podjetja na repu EU. To je povezano z našo drznostjo, ambicioznostjo. Kapital imamo, znanje imamo, zmanjka nam drznosti. V 35 letih samostojnosti nismo na novo ustvarili niti enega samega regionalnega, kaj šele globalnega blue-chipa, ki bi trmasto ohranjal sedež v Sloveniji. Prepogosto je naš cilj prodati podjetje tujcem, namesto da bi z njim iz Slovenije osvojili svet.
V prihodnjih letih bomo za financiranje porabe države potrebovali močno gospodarsko rast. Čakajo nas izdatki za odpornost, obrambne namene, infrastrukturo, energetska podjetja, projekte zelenega prehoda. Vsega tega ne bomo mogli financirati brez rastočega gospodarstva. Če želimo ohranjati ali celo povečevati kvaliteto življenja, potrebujemo res ambiciozno gospodarsko politiko, ki bo peljala državo v smer poslovne uspešnosti.
Cilj je bil in ostaja pravi, a leto pozneje smo na lestvicah konkurenčnosti nižje, ne višje. Zato me danes bolj kot sam cilj zanima, zakaj se ne premaknemo. Vodenje države ni vodenje podjetja. V podjetju odločitev sprejmeš in jo izpelješ, v državi je za vsak korak potrebno iskanje soglasja akterjev, ki nimajo istega interesa. Gospodarstvo pri tem ni le opazovalec, tudi samo mora narediti občutno več za lastno konkurenčnost. Brez resne zaveze vseh akterjev bi bil tak cilj le številka v dokumentu.
Zdajšnja gospodarska rast je dober znak, a to ne more biti izgovor, da se ne naredijo reforme in ukrepi, ki bi Slovenijo vodili k izboljšanju konkurenčnosti – z namenom, da se ohrani blaginja družbe. V interventnem zakonu se nakazujejo nekateri ukrepi za izboljšanje, a ti bi bili le prvi korak k povečanju konkurenčnosti.
Mogoče se ne pogovarjamo več toliko o tej kratici, a vsa tveganja, povezana z njo, ne samo, da obstajajo, ampak se začenjajo materializirati. Potrjuje se, da so okoljski, družbeni in upravljavski dejavniki ključni za prihodnjo vzdržno in profitabilno poslovanje ter dolgoročno ustvarjanje vrednosti, tudi kar zadeva izdatke za odpornost in obrambo.
Trajnosti brez varnosti ni. Nimam moralno vzvišenega pogleda, varnost je treba zagotoviti. Svet je tak, kot je, in ne vidim, da je zagotavljanje varnosti v nasprotju s trajnostnim načinom razmišljanja.
Izjemno zanimivo je tudi področje energetike. Ob dogajanju na Bližnjem vzhodu je porasla privlačnost investicij v obnovljive vire energije, tudi z vidika donosnosti. Kot zanimivost: v ZDA bodo letos rekordno investirali v sončne in vetrne elektrarne, ne glede na to, kaj počne njihova administracija. Kratico bolj poredko slišimo, vsebina pa je aktualna bolj kot kdaj prej.

Pravzaprav sta temi umetne inteligence in trajnostnih načel neposredno povezani. Razvoj je lahko zelo zahteven ob neupoštevanju okoljskega in družbenega tveganja ter celotne regulacije, po kateri vodijo ponudnike umetne inteligence in podatkovnih centrov. Ogromni podatkovni centri imajo izjemne potrebe po energiji, ki dražijo električno energijo. Okoljska tveganja, če jih ne obvladujemo, privedejo do družbenih tveganj. Nasprotovanje podatkovnim centrom je v ZDA zelo realno. Če teh tveganj ponudniki ne bodo upoštevali in ne bodo prisluhnili lokalnim skupnostim, lahko to postavi pod vprašanje tudi tempo razvoja umetne inteligence.
Boljše upravljanje okoljskih, družbenih in upravljavskih tveganj na drugi strani lahko vodi tudi do hitrejšega razvoja držav, ker rešuje ključne težave, ki iz njih izhajajo. Poglejva vprašanje nizkega vodostaja rek: Evropa gradi svojo logistično dobavno verigo in njen velik del je na rečnem transportu, na Renu in Donavi, kjer razmere ne bodo boljše. Jedrski elektrarni v Krškem in Budimpešti sta bili tik pred tem, da se zaustavita. Prihaja do udejanjanja vseh tveganj, o katerih že nekaj časa govorimo. Če jih ne upoštevamo, se tudi razvoj EU v smeri Draghijevih priporočil ne more uresničiti.
... nekateri pravijo, da ni nujno, da bo tako. (Smeh.) A ostaniva pri scenariju, da bo odločala človeška inteligenca.
Si, da. Skupaj z Institutom Jožef Stefan smo naredili zanimiv projekt s področja identifikacije primernih podjetij za naše investicijske sklade. Ponujamo t. i. tematske sklade, kot sta na primer okoljska perspektiva in tehnologije prihodnosti. Najti moramo podjetja, ki natančno ustrezajo njihovim merilom. Da bi to profesionalno počeli, bi potrebovali kar veliko ljudi, a jih nimamo. Zato zdaj to ugotavljamo s pomočjo UI, z njo opravljamo tudi analize podjetij, v katera investiramo. Te aktivnosti pripomorejo k višji kvaliteti našega dela. Sicer pa umetna inteligenca pri nas še ne sprejema investicijskih odločitev.
Umetna inteligenca bo neizogibno koncentrirala bogastvo. Najboljši način, da ima od nje nekaj tudi povprečni državljan, je lastništvo kapitala. Razvit kapitalski trg je v tej dobi ključni mehanizem za ohranjanje socialnega ravnovesja in blaginje.
Že nekaj let smo na poti transformacije družbe. Naše delo temelji na politiki odgovornega investiranja, katere temelj je integracija okoljskih, družbenih in upravljavskih dejavnikov v naš investicijski proces. Osredotočamo se na dolgoročno ustvarjanje vrednosti, pri poslovanju se hočemo izogibati škodljivim vplivom, naše investicijske rešitve želimo ponujati prek sodobnih digitalnih kanalov.
Sprememba iz Triglav Skladov v Triglav Investments ni le sprememba imena, ampak konkretno pomeni tri stvari. Prva so novi produkti, začenši z individualnimi naložbenimi računi, ki bodo za marsikoga prvi stik s kapitalskim trgom. Druga je širitev zunaj Slovenije, najprej prek naše družbe za upravljanje v Bosni in Hercegovini, ki orje ledino pri upravljanju delniških skladov. Tretja je digitalizacija, investiranje mora postati najmanj tako enostavno kot mobilno bančništvo, sicer bo denar še naprej ostajal na depozitih ali šel k tuji konkurenci. Iz upravljavca skladov se spreminjamo v sodobnega investicijskega partnerja.
Pomembno je, da imamo izdelano sliko, kam se premika svet in katere glavne silnice ga oblikujejo. Če jo imamo, lažje spremljamo investicijske odločitve. Če naslavljaš prave dejavnike, te dnevna nihanja niti več toliko ne zanimajo. Učinkovito moramo upravljati tveganja, ki izhajajo iz tehnologije, demografije, geopolitike in podnebnih sprememb. S tem krepimo odpornost naših portfeljev v času umetne inteligence in drugih omenjenih tveganj.
Tu je prišlo do sprememb. Od druge svetovne vojne naprej je bila glavna beseda globalizacija. Mislili smo, da ni več nobene ovire globalnemu svetu, v katerem izginejo vsa ta tveganja glede odpornosti in nacionalnih posebnosti. In da je svet en trg.
Vse več je govora o državnem lastništvu velikih dobičkonosnih tehnoloških družb, večji obdavčitvi, nacionalizaciji in celo o univerzalnem temeljnem dohodku. Pred 10 ali 15 leti si tega niti v sanjah ne bi predstavljali, zdaj o tem govorijo celo libertarci, kot je Elon Musk.
Desetletja smo se vozili po lepi cesti globalizacije in v imenu višje učinkovitosti odvrgli rezervno kolo. Danes je ta cesta polna lukenj geopolitičnih pretresov. Odpornost, to naše rezervno kolo, postaja enako pomembna kot hitrost. Spet se pojavljajo regionalni bloki. Ameriški in evropski blok, blok držav v razvoju, azijski blok ... Imajo različne trajektorije razvoja, hkrati vsi ponujajo naložbene priložnosti, ko iščemo najboljša podjetja posameznih panog v okviru vsakega bloka, ne globalnih. Rastejo trgi v razvoju, raste navsezadnje tudi Evropa. Paradoksalno je, da je ta »povratek zgodovine« prinesel veliko naložbenih priložnosti.
To pa zmeraj. Ker sva ravno pri odločitvah, ključna prednost Slovenije in njenih podjetij bi morala biti hitro sprejemanje odločitev. Ker smo majhna država, lahko po teoriji hitreje sprejemamo odločitve. Da bi lahko dosegli kaj tistega, o čemer se pogovarjava.
Šok septembra 2008 je izhajal iz finančnega sistema. Mislim, da zdaj te nevarnosti ni. Finančni sistem je v veliko boljšem stanju, kot je bil takrat. Največje tveganje vidim v kombinaciji visokih pričakovanj iz naslova umetne inteligence, geopolitičnih sprememb in družbenih ter okoljskih tveganj. Zato vlagatelj v današnjih časih še toliko bolj potrebuje dolgoročni pogled in razpršenost naložb. Umetna inteligenca lahko izboljša kvaliteto naših odločitev, a tveganj ne more odpraviti.
Komentarji