Nina Cijan: Človeški stik ostaja neprecenljiv

Če vam rečem, da je vsa vprašanja za ta pogovor pripravila umetna inteligenca, bi bili užaljeni, presenečeni, zgroženi? Morda to tako ali tako pričakujete?

Verjetno bi bila bolj presenečena, da bi mi to sploh povedali. Sicer pa se mi ne bi zdelo nič posebno nenavadnega, če bi vam idejo za kakšno vprašanje ponudil klepetalni robot. Tudi sama umetno inteligenco vidim predvsem kot orodje, ki nam lahko pomaga recimo pri raziskovanju, ponudi kak nov pogled, poišče zanimiv vir ali nas opozori na povezavo, na katero sami ne bi pomislili. Problem nastane, ko od orodja pričakujemo, da bo namesto nas opravilo tudi razmislek. Zato se mi zdi pri uporabi umetne inteligence ključno vprašanje, kako dobro znamo presoditi, kaj od tega, kar nam ponudi, je zares uporabno, in kako to umestimo v širši kontekst.

No, saj jih ni pripravila. Sem jo pa vprašala, kaj bi ona vprašala voditeljico nove oddaje o umetni inteligenci, in pravi recimo: »Umetna inteligenca rada zveni, kot da ima vedno prav. Ali je to njena največja podobnost z ljudmi?« Kaj bi ji odgovorili?

Res je, da umetna inteligenca pogosto zveni zelo samozavestno. Ponudi nam odgovor tudi takrat, ko pravega odgovora v resnici ne pozna. Vemo, da lahko halucinira, kar pomeni, da ustvari podatek ali odgovor, ki ni resničen, ampak je nastal na podlagi njenega predvidevanja in verjetnosti, a ga vseeno predstavi zelo prepričljivo. V tem smislu je njena podobnost z ljudmi kar zanimiva: ljudje lahko delujemo samozavestni, tudi takrat, ko nimamo prav. Pri umetni inteligenci moramo zato paziti, da samozavestnega tona ne zamenjamo za zanesljivost.

Ali pri tem, koliko pri svojem delu uporabljamo umetno inteligenco, vlada nekakšna dvojnost: če rečeš, da je ne uporabljaš, si »starokopiten kader za na smetišče«, če jo, priznaš, da ti ustreza vsakodnevno urjenje svojega uma prepustiti nekomu drugemu?

Umetna inteligenca je prepojila vse dele našega vsakdanjega življenja in verjetno se bo v prihodnje z našim vsakdanom le še tesneje prepletala. To velja tudi za izobraževanje in mlajše generacije. Zato se mi zdi bolj smiselno vprašati, kako se jo naučiti uporabljati tako, da nam bo koristila, hkrati pa nas ne bo miselno polenila. Uporaba umetne inteligence sama po sebi še ne pomeni, da smo urjenje svojega uma prepustili nekomu drugemu. Lahko je tudi nasprotno: če jo uporabljamo premišljeno, nam lahko pomaga pogledati na problem z druge perspektive, razumeti kompleksen koncept ali priti do informacij, ki bi jih sicer težje našli.

Koliko jo pri svojem delu uporabljate sami in ali jo kako drugače, odkar pri­pravljate to oddajo?

V oddaji smo nekajkrat uporabili umetno inteligenco tudi pri ustvarjanju vizualnega gradiva. Ustvarila je nekaj fotografij, ki smo jih potrebovali za prispevek, kar smo seveda ustrezno označili. Sicer pa so klepetalni roboti lahko zelo uporabni pri razlagi terminov, pojmov in konceptov, tudi pri temah, povezanih s samo umetno inteligenco, strojnim učenjem in velikimi jezikovnimi modeli. Zame je umetna inteligenca lahko dobro izhodišče za raziskovanje, če se srečam s kompleksno temo, ki jo želim najprej razumeti v bolj preprostem jeziku. Ne more pa biti edini vir.

Po posnetih oddajah in pogovorih s strokovnjaki: katera predstava, ki ste jo imeli o umetni inteligenci pred začetkom snemanja, se je izkazala za najbolj napačno?

Morda predvsem to, da sem jo tudi sama dojemala nekoliko črno-belo. Predstavljamo si jo lahko kot nekaj, kar je pri določenih dejavnostih zelo dobro in koristno, recimo pri obdelavi velikih količin podatkov, pri drugih pa naj ne bi bila zaželena, kot na primer pri učenju in izobraževanju. A realnost je precej bolj kompleksna. Tudi v šolskem sistemu si ne moremo zatiskati oči pred tem, da učenci, dijaki in študenti umetno inteligenco že uporabljajo. Zato se mi zdi bolj kot to, ali jo pri učenju uporabljati ali ne, pomembno vprašanje, kako jo uporabljati pravilno in premišljeno. Če jo uporabljajo kot bližnjico, ki namesto njih opravi razmislek, je to lahko problem. Če pa jim pomaga razumeti snov ali poglobiti znanje, je lahko zelo koristno orodje.

Pravite, da boste v oddaji govorili tudi o tem, kje so skrite pasti uporabe. Kje na primer?

Poleg že omenjenega kritičnega vrednotenja je druga, še bolj občutljiva past uporaba umetne inteligence v trenutkih, ko se ne počutimo dobro ali ko se znajdemo v čustveni stiski. To se mi zdi še posebej problematično pri mladih, ki še nimajo veliko življenjskih izkušenj in morda težje presodijo, kdaj je odgovor, ki ga dobijo, primeren in kdaj ne. Klepetalni robot nima človeške izkušnje in njegovega odgovora ne smemo razumeti kot nadomestilo za odnos z drugim človekom. Človeški stik ostaja neprecenljiv.

Nina v studiu gosti strokovnjake in odpira ključna vprašanja, Alen Mastnak pa s kančkom hudomušnosti na terenu raziskuje praktične primere uporabe umetne inteligence, se srečuje z različnimi dilemami in spremlja strokovnjake pri njihovem delu z umetno inteligenco. FOTO: Adrian Pregelj/RTV SLO.

V oddaji se sprašujete tudi, o čem se je še vedno najbolje pogovarjati z ljudmi. Kje je vaša osebna meja? Česa si ne predstavljate, da bi zaupali umetni inteligenci?

Umetna inteligenca je zame zelo uporabna pri raziskovanju določene vsebine, pri iskanju širšega konteksta nekega problema ali kot pomoč pri razumevanju določene teme. Pri osebnih zadevah in pomembnih življenjskih dilemah pa se nanjo ne bi obračala po nasvet. Tam mi je pomemben človeški pogled, izkušnja in odnos. Podobno previdna bi bila pri zdravstvenih vprašanjih. Umetna inteligenca nam lahko pomaga razumeti določene informacije ali pojasniti kakšen medicinski izraz, ne bi pa na podlagi njenega odgovora sprejemala odločitev o svojem zdravju.

Veliko ljudi je chatgpt in podobna orodja začelo uporabljati namesto googla. Ali smo zaradi tega bolj učinkoviti ali samo še bolj oddaljeni od preverjanja virov?

Po eni strani lahko s chatgpt zelo hitro pridemo do možnih odgovorov, ki so pogosto napisani sistematično in prepričljivo. Prav zaradi tega lahko dobimo občutek, da o njih ni treba dvomiti. A pomembna razlika je, da iskalnik praviloma pokaže pot do različnih virov, klepetalni robot pa nam pogosto poda že oblikovan in povzet odgovor. Tako nam prihrani nekaj korakov, hkrati pa lahko spregledamo proces preverjanja virov. Zato se mi zdi pri uporabi klepetalnih robotov še pomembneje, da preverimo podatke in vire, zlasti kadar gre za pomembne ali občutljive informacije. Umet­na inteligenca nam res ponuja hitrost in udobje, kar je lahko zelo mamljivo, a kljub temu moramo odgovore sami pretehtati.

Koliko ste v oddaje vključili črnogleda vprašanja o tem, da bi lahko umetna inteligenca v desetih letih uničila človeštvo?

Različne strokovnjake smo vprašali, kam menijo, da bi nas umet­na inteligenca lahko pripeljala čez pet, deset let. Večina je opozorila, da se to področje razvija tako hitro, da je prihodnost zelo težko napovedovati. Verjetno nam bo na nekaterih področjih še bolj pomagala, morda bo nadomestila tudi nekatera zelo rutinska dela, mogoče bomo imeli v gospodinjstvih humanoidne robote, ki nam bodo pomagali pri vsakodnevnih opravilih. Hkrati pa so pred nami vprašanja, na katera danes nimamo jasnih odgovorov. Koliko smo kot družba pripravljeni na spremembe, ki jih prinaša umetna inteligenca, in kako bomo kot družba upravljali in uporabljali tehnologijo, ki jo ustvarjamo?

Bi ljudje bolj ali manj verjeli umetni inteligenci, če bi pogosteje rekla: ne vem?

Mislim, da bi ji na prvi pogled morda manj verjeli, ker nas njeni samozavestni in sistematični odgovori hitro premamijo, da ji zaupamo. Po drugi pogled pa bi prav priznanje negotovosti lahko povečalo zaupanje vanjo, ker bi pokazala, da ni vsemogočna in da se lahko tudi zmoti. Morda bi zaradi tega delovala še bolj »človeško«. Umetna inteligenca je že del našega vsakdana in je lahko odlično orodje, ki nam z nekaj kliki ponudi podatke, odgovore, analize; a odgovornost za to, kako bomo vse to razumeli in uporabili, nosimo sami.