Zaupanje v algoritme ni več le etika, je tudi stvar dobička

Testiranje umetne inteligence v podjetjih pospešeno prehaja v obsežno vpeljevanje generativne in v ključnih poslovnih procesih vse pogosteje tudi agentske umetne inteligence (UI). Ključno vprašanje pri tem pa je, kako odgovorno jo podjetja uporabljajo in koliko ji zaupajo.

Umetna inteligenca v podjetjih deluje vedno bolj avtonomno – pripravlja priporočila, sproža dejanja, sodeluje z drugimi sistemi – cena napak in halucinacij, ki pri tem nastajajo, pa raste, povzemajo pri McKinsey & Company v novi študiji o zaupanju v umetno inteligenco, s poudarkom na zrelosti podjetij pri tem. Zaupanje v njeno delovanje in odgovorne prakse niso več le postranska skrb, ampak temelja, ki omogočata, da se izkoristijo vse možnosti te tehnologije.

Zaupanje v UI po eni strani omogoča organizacijam, da prepoznajo njen prispevek, vložijo vanjo ter jo na trajnosten način vpeljejo v delovne procese, po drugi strani pa lahko samo z zaupanjem uspešno upravljajo in obvladujejo nova tveganja, ki se z uporabo UI pojavijo. »V času agentske UI organizacije morajo razmišljati ne le o tem, kaj sistem pove narobe, ampak tudi, kaj naredi narobe. Lahko na primer izvede neko neželeno dejavnost, napačno uporabi neko orodje ali ne deluje znotraj ustreznih varnostnih omejitev,« naštevajo.

Na sredini poti do varne uporabe

Z raziskavo med podjetji različnih panog z vsega sveta so analizirali zaupanje in odgovorne prakse (ZOP), torej, koliko se vsega naštetega zavedajo in v skladu s tem tudi delujejo. Tako imenovano zrelost podjetij so merili na petih področjih: strategija, obvladovanje tveganj, podatki in tehnologije, upravljanje in posebej še upravljanje agentske UI skupaj z mehanizmi kontrole.

Ključna ugotovitev študije je, da so podjetja v letu dni (od zadnjega merjenja) napredovala, še vedno pa v povprečju dosegajo oceno 2,3 na lestvici od nič do 4. To pomeni, da so za določene oddelke ali projekte razvila prakse ZOP in definirala ključne indikatorje tveganja, smernice za kakovost podatkov in oblikovala protokole odziva v primeru zaznanega incidenta. Vendar pa procesi še niso integrirani v celotno organizacijo, niso del korporativne strategije, ni jasnih okvirov upravljanja in niso določene odgovorne osebe (tretja stopnja). Da bi dosegli najvišjo stopnjo zrelosti, jih čaka še vgraditev nadzora neposredno v delovanje UI-agentov.

Največ pozornosti podjetja namenjajo podatkom in tehnologijam ter obvladovanju tveganj, kjer jih približno polovica dosega tretjo stopnjo zrelosti, na preostalih treh področjih pa tretjo stopnjo dosega tretjina podjetij. Kot prikazuje graf, je slika v organizacijah s področij finančnih storitev ter IKT in medijev nekoliko boljša kot v preostalih panogah, največ dela pa še čaka industrijo, energetiko in logistiko. Le malo manj zaostajajo trgovina ter dejavnosti, povezane s turizmom, pa tudi zdravstvo.

Globalno se pomena odgovorne uporabe UI zavedajo podjetja azijsko-pacifiškega območja, tretjo stopnjo zrelosti jih dosega od 40 do 60 odstotkov, na drugo mesto se uvrščajo evropska podjetja – tretjo stopnjo zrelosti jih dosega od 30 do 54 odstotkov, najmanj, tako kot v preostalih delih sveta, na področju upravljanja z agentsko UI. Pomanjkanje znanja in premalo usposabljanj podjetja najpogosteje navajajo kot oviro za neuvajanje ZOP. Kot je razvidno iz grafa, so razlogi še pomanjkanje denarja, zakonodaja in tehnične omejitve, pa tudi odpor med zaposlenimi.

Raziskava je jasno pokazala, da ima uporaba UI v podjetjih, kjer več vlagajo v ZOP, večje pozitivne učinke na poslovanje, dobički narastejo tudi za pet odstotkov.

Prepoznana tveganja, ukrepov pa ni

Uporaba agentske UI se sicer močno krepi – po napovedih OECD jo bo letos uporabljalo že 79 odstotkov od polovice velikih podjetij in 17 odstotkov malih in srednjih podjetij na območju OECD, ki si pri svojih procesih že zdaj pomagajo z umetno inteligenco. Vendar skoraj dve tretjini podjetij kot največjo oviro pri uvajanju agentske UI navaja varnostna tveganja, tretjina pa tudi negotovost na področju regulative ter tehnične ovire.

»To kaže, da organizacije niso toliko omejene z zmogljivostmi za eksperimentiranje, bolj jih skrbi, ali so same sposobne v večjem obsegu varno uvesti avtonomne sisteme,« komentirajo pri McKinseyju. Med tveganji jih najbolj skrbita netočnost (na primer nekonsistentnost in napake v povezavi z robustnostjo) in kibernetska varnost, kar prikazuje graf. Podjetja se zavedajo, da se z vpeljevanjem novih tehnologij širi prostor, ki je izpostavljen enakim tveganjem, hkrati pa se pojavljajo nova.

Vendar se izkaže, da to zavedanje še ne pomeni, da bo podjetje uvedlo potrebne kontrole ter orodja, s katerimi bi nevarnosti lahko aktivno upravljalo. Če navedemo samo dva primera: kibernetskih tveganj se zaveda skoraj tri četrtine podjetij, ukrepe jih sprejema 60 odstotkov, skoraj polovico podjetij skrbi, da bi agentska UI izvajala neželene ukrepe, a ukrepe v zvezi s tem jih sprejema manj kot 30 odstotkov.