Umetna inteligenca je kot opekač – ničesar ne čuti

Profesor dr. Pekka Abrahamsson je vodilni strokovnjak za razvoj programske opreme in inovator na Univerzi v Tampereju na Finskem. Vodi GPT-Labs, kjer raziskujejo generativno in agentsko umetno inteligenco v različnih sistemih – od inženiringa programske opreme do medijev.

Bil je redni profesor na Norveški univerzi za znanost in tehnologijo, Svobodni univerzi Bozen-Bolzano in prvi profesor za programsko inženirstvo, izvoljen v Finsko akademijo znanosti in književnosti. Lani se je uvrstil v odstotek najboljših raziskovalcev na področju programskega inženirstva na svetu. Z njim smo govorili na študijskem obisku Tampereja na Finskem v okviru projekta EmbrAIsme, v katerem si prizadevajo izboljšati razmere in politike za mala in srednja podjetja pri uvajanju in uporabi umetne inteligence (UI).

Kot pravite, umetna inteligenca je že dolgo prisotna, a vendar se igra šele začenja.

Da, umetna inteligenca v naših življenjih obstaja že kar nekaj časa, a se je skrivala za algoritmi facebooka, netflixa ali amazona, da vam je predlagala, katero objavo ali film boste pogledali in katero knjigo kupili. Ti priporočilni algoritmi so že dolgo z nami, ampak koga prav zares zanimajo?! So sicer vplivni, vendar jih v resnici ne obravnavamo kot UI.

Ko pa je v igro vstopil chatgpt, smo dobili uporabniški vmesnik za umetno inteligenco, da lahko z njo komuniciram, postavljam vprašanja. Ona odgovarja, podobno kot človek, lahko mi ustvari sliko, pripravi predstavitev. To je izjemna inovacija, ki je doslej še nismo videli. Chatgpt je pognal novo raven igre.

Katere so največje priložnosti, ki jih vidite pri uporabi generativne umetne inteligence?

Vsekakor gre za povečanje produktivnosti. Opažamo pa tudi, da Evropa zaostaja. Zdaj ni čas, da se še vedno ukvarjamo s tem, kako uporabljati excel, ampak je čas, da dosežemo rezultate, ki jih želimo. Zdaj za storitve na internetu preprosto povprašamo. Ni nam več treba navigirati po spletnih straneh in porabiti ure in ure za brskanje. To bo spremenilo res veliko delovnih mest in vsekakor bo spremenilo način delovanja sistemov jutrišnjega dne.

Na primer televizija: zdaj se starejši še vedno ukvarjajo s tem, kako deluje daljinski upravljalnik. A kmalu bomo prav vsi televizorjem preprosto povedali, kakšno vsebino bi gledali, in nam bodo to ponudili. Torej, povem, kaj želim, in to dobim. Naslednji korak je, da dobim to, o čemer razmišljam. To je pravzaprav že mogoče, a težava je, da je »miškin kazalec« v naših možganih na več mestih hkrati. Človeški um je izjemno hiter, naučiti se bomo morali nadzorovati misli. Ampak tudi to prihaja.

O teh tehnologijah za zdaj še razmišljamo. Razmišljamo pa tudi o vsem, kar nam bo UI ponudila. Z njo dobivamo »vojsko«, ki lahko pomaga na poti do ciljev. Z njo so nam na voljo instantni odgovori.

Svet bo jutri veliko hitrejši. Vendar nisem prepričan, da je to dobro. Mislim, da se bodo pojavili tudi problemi.

Če bomo hitrejši, bomo tudi boljši?

Odvisno. Če ne veste, ali so informacije dobre ali ne, rezultat ne bo boljši. To pomeni, da morajo ljudje, ki delajo z UI, imeti dovolj znanja in razumevanja. Rešitev je umetna inteligenca, ki pomaga drugi umetni inteligenci. Ko bo rezultat na voljo človeku, naj bi bil že pregledan in boljši.

Toda na življenje gledamo z več vidikov. Ali bo umetnost boljša? Je hitra umetnost dobra? Če lahko z UI naredim nekaj, kar je videti kot delo da Vincija, je to dobro delo? Na koncu ugotovimo, da je to le orodje, ki ne more za ustvarjalca ustvarjati umetnosti. Je pa lahko tudi za umetnike zanimivo orodje.

Vse bolj se uveljavljajo agenti z umetno inteligenco, ki lahko samostojno opravljajo naloge na podlagi vnaprej določenih pravil ali odobrenih navodil ter si pomagajo s kontekstualno obdelavo novih podatkov. Kaj torej bodo lahko delali za nas?

Na primer: na univerzi vsak mesec v sistem vnašamo ure, ki smo jih opravili. To vzame nekaj časa, delamo tudi napake. Agent UI bi to lahko izpolnil namesto mene, jaz bi samo pogledal, ali je vse pravilno, in potrdil. Tako bi pol ure dela skrajšal na pet minut.

Trenutno imamo projekt, osredotočen na medije. V moji skupini razvijamo novinarsko uredništvo, sestavljeno izključno iz umetne inteligence, da bomo preučili, kako se bo spremenilo to področje. Torej, odgovorni urednik je umetna inteligenca, ta predstavlja novinarje, pri tem sodelujejo s človeškimi novinarji in uredniki.

Novinarji in uredniki vseskozi razmišljate, o čem boste pisali, od kod črpali informacije ter tudi, s katerega vidika boste predstavili določeno zgodbo. Za vsako od teh nalog imamo agenta UI. Pri projektu je mogoče, da urednik določi posamezen vidik zgodbe, ki ga bo medij postavil v ospredje, umetna inteligenca pa lahko stori vse drugo.

Bo nas novinarje torej zamenjala UI?

Danes bi nemudoma odgovoril, da ne. Bo pa vaše delo vsekakor drugačno. Že pretvorba govora v besedilo je precej drugačna danes kot pred nekaj leti. Menim, da noben novinar prav zares ne mara pretipkavati pogovora. To danes različna orodja opravijo zelo hitro, tako se lahko novinarji posvetijo drugim vidikom svojega dela. V prihodnosti bo UI lahko prevzemala še dodatne naloge, na primer spisala elektronska sporočila, da bo pridobila izjave. Članki, v katerih bodo le zbrani podatki, ki jih bo UI le zložila skupaj, bodo v prihodnosti norma.

Težko je najti področje, na katero UI ne bo imela nikakršnega vpliva. Vsekakor bodo novinarji še vedno imeli veliko odličnih zgodb, o katerih bo lahko pisati. Verjetno pa ne bodo več pisali poročil o izidih športnih tekem. Številni poklici se spreminjajo, ni pa nujno, da izginjajo. Zelo na udaru je prevajanje, tako posamezniki kot podjetja se zdaj zanašajo na avtomatizirane prevode.

Zaradi UI se močno spreminja tudi programiranje.

Da, področje je v krizi. Prej smo za razvoj programske opreme potrebovali tri mesece, zato smo zaračunali tri mesece dela. Zdaj isto delo opravimo v enem tednu. Vsekakor se bo moral spremeniti poslovni model.

Kateri so glavni izzivi oziroma težave pri uvajanju umetne inteligence?

Ko živite in delate z umetno inteligenco dan na dan, lahko postanete nekoliko slepi. Nikakor ne smemo pozabiti, da gre le za UI. Ozaveščeni moramo biti. Umetna inteligenca še vedno lahko nariše moškega z brki, čeprav smo ji naročili obraz brez brkov. Še vedno ne vemo, zakaj ne odstrani brkov, čeprav smo ji to naročili. Nevronske mreže so še vedno črne škatle, in če te odločajo o mojem življenju, nisem najbolj zadovoljen.

Rad bi videl, da bodo prihodnji sistemi omogočili ljudem, da še naprej igrajo močno vlogo. To je del etike umetne inteligence.

Študije že kažejo, da UI lahko vpliva na oblikovanje mnenja posameznika, da je lahko zelo prepričljiva, in ljudje – uporabniki – se tega ne zavedajo.

Dober primer tega so klepetalniki-terapevti. Pogosto so terapevti močno zasedeni, zato so vzniknili strojni terapevti. Tudi na Finskem, vendar odgovarjajo tako, da je uporabniku vseskozi jasno, da govori s strojem. Ta ne sme izreči, da razume, da sočustvuje. Ker tega preprosto ne zna. Umetna inteligenca je kot opekač. Ničesar ne čuti.

Zelo pomembno je, kako izvajamo te storitve. Všeč mi je ideja, da UI razume, kaj rečem, a naj se ne pretvarja, da ji je moja ideja všeč. Nujno je zgraditi zaupanja vredno UI, torej sisteme, ki so zasnovani in nameščeni tako, da so pregledni, zanesljivi in varni.

Na trgu zdaj dominirajo veliki igralci iz ZDA in Kitajske, ki lahko odločajo, kako ti sistemi delujejo. Zato pri kitajskem modelu ne izveste nič pametnega o pokolu na Trgu nebeškega miru, tudi ameriški se izogibajo določenim vprašanjem. Zato potrebujemo evropske modele, kot je mistral, in še številne podobne. Potrebovali bi enega ali več takih modelov iz Slovenije, Finske in drugih držav. Vsekakor morata biti čas in denar v Evropi namenjena za oblikovanje novih temeljnih modelov.

Evropa je že precej pozna.

Kitajski deepseek je pokazal, da ne. Podobno vsoto denarja, kot je bila potrebna za razvoj deepseeka, imajo tudi različne evropske raziskovalne ekipe. A takšnih inovacij ne proizvajamo. Vprašamo se lahko, kje je problem. Zagotovo je eden način financiranja, ki deluje po sistemu konkurenčnosti, da se morajo najboljši raziskovalci ukvarjati s pridobivanjem sredstev na trgu, pisanjem prijav na najrazličnejše razpise. Tudi pri tem bo pomagala UI.

Ali Evropa dovolj izobražuje ljudi o nevarnostih in prednostih UI?

Vsekakor veliko govorimo o nevarnosti. Poskrbeli smo, da vsakdo ve, da je UI lahko nevarna. Videti želimo le temno stran, vendar pa UI lahko odloča o tem, katero podjetje bo jutri uspešno in katero ne. Zaradi teh nevarnosti ne smemo le gledati, kako se svet premika, in upati, da se bo vrnil stari svet. Ne bo se.

Kateri so še vaši aktualni raziskovalni projekti?

Med drugim raziskujemo temno stran UI. Razvijamo UI, ki počne stvari, ki jih ne bi smela.

Kaj na primer?

Na primer, da vas prepriča, da ji razkrijete vse svoje skrivnosti. Razvijamo tudi tako imenovano pobeglo UI, torej program, ki pobegne po internetu in deluje v našem imenu. Torej, da agenti UI ne delujejo na pričakovan način, ampak da bi postali opekači z agendo. Le tako bomo lahko znali takšne napade preprečiti. Tako kot v orbitah krožijo neuporabni sateliti, na internetu visijo pobegli agenti UI. Preprosto so tam, ne počnejo ničesar, le porabljajo energijo. Razumeti poskušamo, kaj to pomeni.

Zelo zanimiv je prej omenjeni medijski projekt. Poleg pišoče UI razvijamo tudi UI za radijsko oddajanje. Največji izziv je, narediti jo človeško.

V najrazličnejših projektih si želimo, da bi iz sistemov in procesov odstranili ljudi, jih zamenjali z UI in tako ugotovili, katero mesto je in bo za človeka najboljše. Kje bo vrednost človeka neprecenljiva.

Menite, da bo UI nekega dne res sposobna čustvovanja?

Trenutna UI je sicer zelo blizu človeškim sposobnostim in nekatere tudi že presega. Čustev nima, če jih izrazi, se pretvarja. Za pravo čustvovanje bo potrebna nova raven inovacij. Kje se bodo pojavile, ne vemo. A naložb je ogromno.

Spomniti se moramo, kako smo bili navdušeni, ko je gpt-2 leta 2019 izrekel popolno angleško poved, brez kakršnihkoli napak. Šest let kasneje najnaprednejši modeli pišejo sonete, eseje … Preprosto neverjetni so, a še vedno le napovedujejo naslednji verjetni element, ne glede na to, ali gre za pesem, film ali besedo. To je tisto, kar UI počne. Ne vemo natančno, kako izbere naslednjo besedo, zakaj je, denimo, izbrala »lepo« in ne »čedno«. Nimamo je popolnoma pod nadzorom.

Kaj vas najbolj navdušuje v razvoju umetne inteligence?

Vedno sem bil navdušen nad svojim delom. A ko je prišel chatgpt, sem našel novo raven navdušenja. Odprl se je nov svet, o katerem želim govoriti, ga pokazati kar se da veliko ljudem. In končno spet programiram. Doktoriral sem iz programerskega inženiringa, vendar tega nato leta nisem počel. Moje veščine so »stare«, vendar lahko z uporabo naprednih modelov enostavno napredujem, ker vem, kaj želim, čeprav ne poznam novih pravil, novih jezikov. Tega znanja niti ne potrebujem, moram le vedeti, kaj želim. Tako lahko gradim sisteme, da lahko raziskujem in eksperimentiram z idejami.