Umetna inteligenca je samo orodje, kot kladivo

Na fakulteti za računalništvo in informatiko oblikujejo izobraževalni projekt o umetni inteligenci za osnovne in srednje šole.
Fotografija: Po mnenju prof. Blaža Zupana je poznavanje umetne inteligence oziroma njene uporabe nujno, da se bomo uspešno spoprijemali s prihodnjimi izzivi. FOTO: Črt Piksi
Odpri galerijo
Po mnenju prof. Blaža Zupana je poznavanje umetne inteligence oziroma njene uporabe nujno, da se bomo uspešno spoprijemali s prihodnjimi izzivi. FOTO: Črt Piksi

Na na prvi pogled preprosto vprašanje, kaj je umetna inteligenca, dobimo raznovrstne odgovore. »Zame so to trenutno naprave, ki izvajajo naše ukaze, same zbirajo podatke in se delno prilagajajo oziroma odzivajo na zunanje zahteve. Prihodnost bo drugačna – v njej bodo naprave tudi razmišljati znale same,« pravi Peter.

»Zame je umetna inteligenca nekaj, kar mi po eni strani močno lajša življenje, po drugi pa do nje čutim precej strahospoštovanja. Ker je ne razumem povsem in ker z njo še zmeraj upravlja človek, ki pa je ranljiv, zmožen delanja napak, subjektiven v svojih odločitvah. Kot tak torej priročna tarča, da ga nekoč nadvlada 'robot'. Morda pa sem samo preveč rada gledala Terminatorja,« nadaljuje Anja. Miha doda: »Glavno, kar imamo, so podatki, umetna inteligenca to ogromno količino podatkov obdeluje, njeni rezultati pa dajejo vtis, da gre za pametne rezultate, kar pa ni nujno. Vsaj ne še.«

Dejstvo je, da je to tehnologija, ki (lahko) vpliva praktično na vsa področja našega življenja, zato bi jo morali (dobro) poznati, če ne želimo kot družba capljati na repu razvitih držav. Kot poudarja prof. dr. Blaž Zupan, vodja laboratorija za bioinformatiko na ljubljanski fakulteti za računalništvo in informatiko, gre za kompleksno tehnologijo, vendar se njeno uporabo da predstaviti na enostavnih primerih. Tudi najmlajšim. S kolegom prof. dr. Janezom Demšarjem snujeta izobraževalne vsebine, s katerimi bi znanje o umetni inteligenci vključili v predmete v osnovnih in srednjih šolah. Kakšen je ta projekt, v nadaljevanju …

Zakaj je treba poznati umetno inteligenco?

Zanjo in za biotehnologijo pravijo, da bosta zaznamovali to stoletje. V prejšnjem stoletju so bile take vede elektrotehnika, strojništvo in jedrska tehnika. O teh tehnologijah smo se precej naučili v šoli. Na primer, vsak vsaj približno ve, kako deluje avtomobil. Za umetno inteligenco tega trenutno ne moremo reči, saj znanje o njej in njeni uporabi na slušatelje tipično prenašajo samo na izbranih fakultetah, v šolah pa ga, razen redkih izjem, tako rekoč ni. To je občutljivo področje, ki so si ga prilastila velika tehnološka podjetja, večina javnosti pa ne sledi razvoju. Menim, da bi se Slovenci po poznavanju umetne inteligence lahko postavili ob bok najrazvitejšim. Poznavanje tehnologij umetne inteligence lahko vodi k dvigu produktivnosti in kvalitete življenja. Umetna inteligenca pa lahko tudi škoduje; ogrozi lahko demokracijo in pripomore k razvoju novih orožij.

Strah pred njo je torej upravičen?

Vsako tehnologijo, ki je ne poznamo, nekdo lahko zlorabi. Predstavljajte si, da ne bi ničesar vedeli o jedrski energiji in ne bi imeli nobenega nadzora nad njenim izkoriščanjem. Umetna inteligenca lahko na primer ogrozi demokracijo, ker je z ljudmi na podlagi podatkov, zbranih o njih, zelo lahko manipulirati.

image_alt
Bi terminatorju lahko preprečili, da nas uniči?

Kar smo zelo dobro videli v primeru Facebooka in podjetja Cambridge Analytica.

In takih primerov je morda še veliko več. Vsako podjetje ali pa organizacija, ki ima dostop do podatkov, lahko prilagodi algoritme tako, da ustrezajo samo njihovim ciljem. Skrajna zloraba umetne inteligence so avtonomna orožja, ki si jih ne želimo in bi jih bilo treba prepovedati.

Vsekakor je velika težava zloraba podatkov.

Da, podatki so ključni, nova nafta. Umetno inteligenco danes tvorijo algoritmi, ki temeljijo na uporabi podatkov. Človeštvo se še ni opredelilo, kdo je lastnik podatkov, kdo jih lahko zbira in na kakšen način. Evropa je tu z GDPR že naredila korak naprej, s tem morda celo zvezala roke tudi kakšnemu evropskemu podjetju in omogočila boljšo startno osnovo neevropskim. Uporaba podatkov sicer ni področje računalničarjev, ampak pravnikov in politikov. In tu že trčimo ob problem. Koliko politiki vedo, kaj je umetna inteligenca? Pred leti je bilo zelo zgovorno pričanje Marca Zuckerberga pred ameriškim senatom in kongresom. Prav boleče je bilo gledati, kako slabo so se izpraševalci spoznali na temo izkoriščanja podatkov. Kaj menite, kako bi bilo v našem parlamentu?

V zadnjih letih sta strojno učenje in umetna inteligenca nedvomno dobila zagon. Kje je viden največji napredek?

Področij uporabe umetne inteligence je ogromno. Zagotovo so najbolj znani primeri spletne trgovine, kjer umetna inteligenca določa, kaj vidite na ekranu. Potem so tu medicina, molekularna biologija in farmacija. Velik napredek je pri analizi besedil, govora, slik in videa.

V moji skupini sodelujemo na primer s podjetjem Lek, kjer s tehnikami strojnega učenja in podatkovne analitike optimizirajo proizvodnjo bioloških zdravil v Mengšu. Sodelujemo tudi z zdravniki, ki s strojnim učenjem gradijo modele za izbiro načinov zdravljenja. Pa z bankami, kjer lahko iz podatkov ugotovijo, kateri finančni produkti bi bili zanimivi za komitente. Skorajda ni področja, kjer umetna inteligenca ne bi bila uporabna. Drugo vprašanje pa je, ali v Sloveniji to tehnologijo dejansko uporabljamo in koliko.

Umetna inteligenca iz podatkov izlušči neki rezultat. Kako zanesljiv je oziroma o kakšni stopnji zaupanja lahko govorimo?

Točnost napovedi modelov umetne inteligence lahko objektivno izmerimo. Napovednega modela se na primer naučimo na vzorcu podatkov in na preostalih podatkih preverimo njegovo delovanje. Če izdelujemo samovozeči avtomobil, lahko s simulacijo preverimo zanesljivost razvitih algoritmov. Drugo pa je subjektivna stopnja zaupanja, torej koliko ljudje zaupamo tehnologiji. To zaupanje je tudi zaradi nepoznavanja umetne inteligence precej majhno. Če nezaupanja ne bi bilo, bi verjetno tudi na slovenskih cestah vsaj poskusno že imeli avtonomna vozila.

Umetna inteligenca lahko vpliva na vsa področja našega življenja, poudarja prof. dr. Blaž Zupan. FOTO: Črt Piksi
Umetna inteligenca lahko vpliva na vsa področja našega življenja, poudarja prof. dr. Blaž Zupan. FOTO: Črt Piksi

A po drugi strani nimamo težav z zaupanjem in posredovanjem marsikaterega podatka družbenim omrežjem.

Gre za to, kako je nekdo lahko prepričljiv. Očitno nas lastniki spletnih aplikacij lažje prepričajo, da jim zaupamo slike in podatke.

Se vam zdi, da so nekateri tehnološki velikani že premočni in bi nas lahko nadvladali?

Takšni distopični družbi se moramo izogniti. Vendar to ni naloga računalničarjev. Umetna inteligenca je kot kladivo. Z njim lahko zgradiš hišo ali pa udarjaš po glavi. Torej je samo orodje. Še zelo daleč smo od tega, da bi se umetna inteligenca zavedala sama sebe, če se bo to sploh zgodilo. O uporabi kladiva se naučimo že kot otroci, tudi o umetni inteligenci bi morali govoriti že v šolah.

Kako?

Za podrobno poznavanje umetne inteligence potrebuješ dobro znanje matematike, računalništva in statistike. Vsekakor to ni za vsakogar. Popolnoma nekaj drugega pa je njena uporaba, ki jo je mogoče praktično predstaviti in pri tem razložiti osnovne koncepte umetne inteligence. Ne samo na fakultetah. Menimo, da je uporabo umetne inteligence in strojnega učenja, ki je danes njen osrednji del, mogoče predstaviti že v osnovni šoli, kjerkoli je učna snov povezana s podatki. Ti pa so na voljo pri vseh predmetih, na primer pri slovenščini, kemiji, fiziki, geografiji, glasbi …

Kako ste si zamislili projekt izobraževanja mladih na tem področju, ki ga je podprl tudi Google?

V sklopu projekta se bomo povezali s predmetnimi učitelji iz izbranih osnovnih in srednjih šol in poučevanje v okviru obstoječih predmetnikov obogatili z uporabo orodij umetne inteligence. Prepričani smo, da je koncepte umetne inteligence možno predstaviti že v četrtem ali petem razredu. Na primer, pri naravoslovju v drugi triadi otroci spoznavajo vrste dreves. To lahko počnejo v razredu ob prebiranju učbenika ali pa poleg tega gredo v gozd in poslikajo liste posameznih vrst. Slike prenesejo v računalnik in v primernem okolju sestavijo postopek strojnega učenja, ki se nauči prepoznavanja vrste dreves na podlagi slik listov. Potem lahko otrokom razložimo, da podobno deluje prepoznavanje obrazov in da se algoritmi, kot pri drevesih in listih, tudi kdaj zmotijo.

Pristop, ki ga predlagamo, je torej praktičen in temelji na uporabi orodij umetne inteligence pri podajanju snovi iz obstoječih učnih načrtov. Pri tem bi se radi izognili predavanjem o teoriji ali pa suhoparnim predstavitvam s powerpointom.

V projektu bomo skupaj z učitelji oblikovali predvidoma deset kratkih, eno- do dveurnih lekcij za osnovne in srednje šole, jih nato v prvem projektnem letu preizkusili, v drugem pa naučili učitelje, da bi to snov podajali samostojno. Če bi takšna znanja in praktičen način njihovega podajanja sistematično uvajali v osnovnih in srednjih šolah, vidimo možnosti, da bi Slovenija lahko bila med vodilnimi v tovrstnem izobraževanju.

Kako dobra je trenutno Slovenija na področju umetne inteligence?

Po mojem mnenju smo primerljivi z Evropo. Vsako podjetje, veliko ali majhno, lahko s to tehnologijo pridobi in poveča konkurenčnost. V tujini obstajajo iniciative in organizacije, ki svetujejo podjetjem na tem področju, in tudi pri nas so, na primer iniciativa ai4si, ki pospešuje uvajanje tehnologij umetne inteligence v gospodarstvo. Po naših izkušnjah prehod iz klasičnega podjetja v podjetje, kjer je večina postopkov podprta s podatki, traja od tri do pet let. Pri prehodu lahko pomaga tudi sodelovanje z univerzo in inštituti. Umetna inteligenca je v Sloveniji raziskovalno namreč zelo dobro zastopana.

Primer vizualizacije podatkov v programu Orange. FOTO: FRI
Primer vizualizacije podatkov v programu Orange. FOTO: FRI

Ste vodja laboratorija za bioinformatiko. Kakšne raziskave izvajate oziroma kateri so trenutno vaši glavni projekti?

Specializirani smo v biomedicini, a zadnje čase veliko sodelujemo tudi s fiziki in farmacevti. Med zanimivejšimi trenutnimi projekti bi posebej omenil sodelovanje s slovenskim podjetjem Genialis, s katerim razvijamo orodja za odkrivanje biomarkerjev za bolezni. Osrednja dejavnost laboratorija pa je razvoj programa Orange, v katerem povezujemo strojno učenje z vizualizacijo podatkov.

Komu je namenjen program Orange (dostopen je na https://orangedatamining.com/)?

Pravzaprav vsem, ki imajo in obdelujejo podatke in jih zanima kaj zanimivega iz njih izluščiti. S tem programom smo želeli razviti orodje, s katerim je mogoče enostavno sestaviti postopke strojnega učenja in jih uporabiti na poljubnih podatkih. Odlikujejo ga grafične predstavitve podatkov in interaktivne vizualizacije. Orange je orodje, s katerim je mogoče strojno učenje uporabiti in hkrati razložiti delovanje algoritmov ter pojasniti, kako je do posameznih rezultatov prišlo.

Program je odprtokoden. Bo tak tudi ostal?

Orangea ne bomo zapirali, ostal bo v odprti kodi. Zapiranje in komercializacija bi omejila njegovo uporabo, predvsem pa onemogočila njegovo razširjenost v izobraževanju. Trenutno Orange aktivno uporablja več kot petsto univerz po svetu, zanj pišejo priročnike v španščini, češčini in turščini, izdelujejo video gradiva in imajo spletne tečaje. Odprt mora seveda ostati tudi za omenjeni projekt uvajanja uporabe umetne inteligence v osnovne in srednje šole, kjer bodo prav vse načrtovane učne vsebine uporabljale Orange kot osnovno orodje.

Ga boste za to nalogo prilagodili?

Prevedli ga bomo v slovenščino in za potrebe uvajanja v šole izdelali poenostavljeno različico.

Lahko za konec v eni povedi odgovorite, kaj je umetna inteligenca?

To je skupek računskih postopkov in algoritmov, ki računalniku omogočajo, da na podlagi podatkov pride do zaključkov ali akcij, ki se nam ljudem zdijo inteligentni, torej so taki, kot če bi jih naredil človek.

Preberite še:

Komentarji: