Bo umetna inteligenca bolj etična od človeka?

Kakšni izzivi čakajo slehernika v bližnji prihodnosti, se bomo z njimi sposobni spoprijeti le, če o njih začnemo premišljevati že zdaj?

Objavljeno
28. maj 2019 02.00
Posodobljeno
28. maj 2019 10.01
Avtor knjige premišljuje tudi o tem, kakšen bo naš odnos z roboti, kakšno moč bodo nad ljudmi imeli njihovi programerji. Na fotografiji prizor iz filma Ex Machina režiserja Alexa Garlanda.
Rada berem Hararija. Verjame v človeka, a dobro se zaveda tudi njegovih slabosti. V bistvu verjame v vsa čuteča bitja in je tudi velik borec za pravice živali. Zelo dobro pozna zgodovino in zdi se mi, da mu je zato jasna tudi psihologija sveta.

Ne razgreva in ne razburja, tako kot kakšen Peterson, nima se za guruja in njegove misli so sodobne in verjetne. Dobro zna pripovedovati zgodbe. Kot pravi, ljudje pač razmišljamo v zgodbah, in ne v dejstvih in številkah.

V Sapiensu nas je s pomočjo zgodovine pripeljal v sedanjost, v Homo deusu v prihodnost, njegova najnovejša knjiga 21 nasvetov za 21. stoletje pa se zasidra v sedanjosti in pogleda naprej. Odlično je, da knjigo, ki je izšla avgusta lani, že lahko beremo v odličnem slovenskem prevodu. Čeprav je res, da na mestih ne teče tako gladko kot prvi dve, saj je sestavljena iz esejev, ki jih je objavljal v svetovnih časopisih od Guardiana do New York Timesa.

Že takoj na začetku zapiše, kaj je cilj te knjige – jasnost, saj se mu zdi to najpomembnejša stvar na svetu, ki je prepreden z nepomembnimi informacijami. Kako ohraniti jasen pogled? Kako razumeti oziroma si predstavljati prihodnost, če ne razumemo niti časa, v katerem živimo? Harari nas uči, da se moramo, če jih želimo razumeti, zavedati tega, kar se dogaja okoli nas. Čeprav je v času globalizma to še posebej zapleteno. Težko razumemo, da naše vsakodnevno življenje, obleka, ki jo nosimo, naši banalni rituali, vplivajo na to, kako živijo, životarijo ali trpijo ljudje in živali na drugem koncu sveta.

image
ℹYuval Noah Harari
21 nasvetov za 21. stoletje
prevod: Polona Mertelj
Mladinska knjiga, 2019


Tudi glede političnih prepričanj stvari niso več takšne kot nekoč, kot zapiše, so bile leta 1938 ljudem na izbiro tri svetovne zgodbe, leta 1968 le še dve, leta 1998 se je zdelo, da je le še ena, in danes se zdi, da smo ostali brez vseh. Zakaj se je liberalizem znašel v krizi? Zakaj ne verjamemo več klasičnim politikom? Dejstvo je, da je svetovni splet tisti, ki spreminja svet, in ne politika. In če je tako, zakaj se potem glede svetovnega spleta ne odločamo na volitvah?
 

Politiki preteklosti


Vedno bolj zapletene so tudi finance, ki so iz rok ušle celo ekonomistom in bankirjem. Ali je sploh še mogoče razumeti finančno delovanje neke države? V prihodnosti si bodo morale vlade izmisliti nove davke, predvideva avtor, recimo davek na informacije, ki bodo najpomembnejša dobrina.
Ni jasno, kaj bodo prinesle nove tehnološke revolucije, ki jih izvajajo podjetniki, inženirji in znanstveniki ali pa spretni možganski trusti, kot so ustanovitelji Amazona, Googla ali Facebooka, ki so spremenili pokrajine vsakdana na planetu, a se niso zavedali političnih posledic vsega tega, in ki na drugi strani ne zastopajo nikogar razen sebe in svojega kapitala.

Politiki zamujajo kot še nikoli. »Prelomne tehnologije sploh niso pomemben del političnih načrtov.« Se spomnite, da bi jih omenjal kdo od politikov na nedavnih evropskih volitvah? In to so ljudje, ki bodo sedeli v enem najpomembnejših parlamentov na svetu, ki bo krojil naš svet. Politikom volivci tudi dovolimo, da se poigravajo s prihodnostjo in ne sprejemajo odgovornosti za svoja dejanja. Tisti na primer, ki so zakuhali brexit, niso vedeli, kaj jih čaka na koncu horizonta, in so se po zmagi razpršili, kot kokoši, na katere pade sokolova senca.

Ni čudno, da je v zraku toliko nostalgije, saj je nekoč politika posameznika prepričevala, da je pomemben del prihodnosti, še posebej v socialističnih krajih. »Danes se običajni človek počuti vse manj pomembnega.« Harari predvideva, da se bo kmalu oblikoval nov družbeni razred presežnih ljudi, ki ne bodo le nezaposleni, ampak nezaposljivi. Osebe brez ekonomske vrednosti. Malce ironično se vpraša, ali je bolje biti izkoriščan ali nepomemben.
 

Pozabljene moralne vrednote


Harari veliko piše tudi o algoritmih in umetni inteligenci. Med drugim se sprašuje, ali bodo računalniški algoritmi znali etična vodila upoštevati bolje kot ljudje, saj jih čustva, ki jih sicer imamo za tista, ki so naš humani del, ne bodo obremenjevala. V zagovor tej tezi opiše znani eksperiment, ki so ga leta 1970 opravili na skupini študentov, ki so se na teološkem semenišču princetonske univerze usposabljali za duhovnike. Nekaterim od njih so naročili, naj se odpravijo v oddaljeno predavalnico ter kolegom pojasnijo priliko o dobrem Samarijanu, pripadniku verske sekte, ki so jo Judi sicer prezirali. Prilika gre takole: Nekega Juda so nekoč na cesti pretepli in oropali razbojniki in ga pustili napol mrtvega ležati na cesti, mimo je šel duhovnik in potem še eden, a mu nista pomagala. Ranjenemu moškemu je pomagal šele Samarijan in mu rešil življenje. O tej zgodbi so premišljevali mladi bodoči duhovniki, ko so hiteli v predavalnico, vodja eksperimenta jim je na poti nastavil past – ob neki steni je sključen sedel razcapan moški in stokal, a večina semeniščnikov se ni ustavila in ga povprašala, kaj mu je. Preveč so bili pod stresom in so premišljevali le o tem, kaj bodo povedali v predavalnici, četudi jim je realnost ponudila prav to zgodbo. Tako namreč delujejo človeški možgani, kadar so pod stresom in osredotočeni na neko nalogo, velikokrat se zgodi, da pozabijo na dobroto in etiko.

Harari piše, da bodo programirani algoritmi v samovozečem vozilu ta etična merila upoštevali dosledneje, če jim bodo programerji dali navodila, naj zaščitijo človeka, bodo to storili ne glede na to, da bodo morali hitro pripeljati na cilj. Tudi ko se bodo odločali o tem, kakšen človek je primeren za neko delovno mesto, jih bo vodilo to, kaj zna in česa vse je sposoben, ne pa kakšne rase, spola ali verskega prepričanja je. Še več, algoritmi bodo kmalu bolj vedeli, kdo smo, kaj želimo in kaj bi morali vedeti o sebi, zato se bodo z lahkoto odločali namesto nas.
 

Znanje in učenje


Nova tehnologija in podnebne spremembe bodo svet spremenile v nekaj neprepoznavnega, ugotavlja avtor. Kaj in kako bi morali o vsem tem učiti otroke? Naši starši so nas učili o svetu, ki so ga poznali, saj je bil podoben kot njihov, a ta trenutek si nihče ne predstavlja, kakšen bo svet čez osemdeset ali sto let. Informacije, pravi zgodovinar, zato v šoli niso tako pomembne, najdemo jih lahko kjerkoli, veliko bolj pomembno je to, kako smo jih sposobni razumeti, razlikovati med tem, katere so prave in katere lažne. Šole bi se morale posvetiti poučevanju tako imenovanih štirih K-jev: kritičnega mišljenja, komuniciranja, kooperativnosti in kreativnosti. Pomembne so splošne življenjske spretnosti, pravi. Tudi to, kako se bodo otroci, ko bodo starejši, spodobni spoprijemati s spremembami in se učiti novih stvari, kako dobro bo njihovo mentalno ravnovesje in kako razvita bo njihova čustvena inteligenca. Danes je življenje sestavljeno iz dveh ciklov, učimo se, ko smo mlajši, si pridobimo znanje in si ustvarimo identiteto, da se potem lahko posvetimo svojemu poklicu. Ta tradicionalni princip, ki je veljal stoletja, se bo spremenil, saj se bo čas učenja podaljšal, človek prihodnosti bo ves čas spreminjal svoj poklic in ga prilagajal času, drugače bo šlo vse mimo njega. Na to bo morali biti mladi tudi psihično pripravljen.
 

Ponavljanje neresnic


Glede enakopravnosti je Harari skeptičen, lahko se zgodi, da bo 21. stoletje ustvarilo najbolj neenakopravno družbo v zgodovini. Nekoč se je prebivalstvo delilo na plemstvo in tlačane, seveda ni bilo nujno, da je bil kmet bolj neumen od plemiča, čeprav je ostajal brez vseh pravic, a premoč prvega je bila v njegovem bogastvu, ki ga je podedoval. V prihodnosti bodo bogati v resnici pametnejši od revnih. Lahko si bodo kupili bolj zdravo telo, umetno inteligenco, znanje, saj se bodo polastili večine svetovnega bogastva.
Kritičen je do Izraela pa tudi do različnih religij. Narodom in ljudstvom svetuje, naj se začnejo zavedati, da niso središče sveta. Zgodbo o samopoveličevanju izpelje prav na primeru svoje dežele, saj judizem na primer trdi, da ves kozmos obstaja le zato, da bi lahko rabini proučevali svoja sveta besedila, in če bi to prenehali početi, bi bilo stvarstva konec. Tudi otroci se v izraelskih šolah bolj malo učijo o drugih deželah, recimo Kitajski, Indiji ali Afriki, ampak le o svoji veri, nastanku svoje države in holokavstu. »Judaizem se posveča usodi malega naroda in male dežele, za usodo drugih ljudi in držav pa se ne zmeni preveč.«
Glede lažnih novic, ki oblikujejo vzporedno resničnost, ki postaja bolj resnična od dejanskosti in je prostor neskončnih manipulacij, pravi, da se jim nimamo kaj čuditi, saj je zanje um homo sapiensa plodovit kot najbolj pognojena zemlja. Njegova moč je namreč odvisna od zgodb in vere vanje. »Z neznanci lahko sodelujemo, ker si izmišljamo zgodbe, in dokler verjamemo v iste zgodbe, vsi spoštujemo neke zakone in lahko sodelujemo.«

Če Trumpa obtožujemo, da ustvarja lažne novice, se spomnimo na vernike katere koli religije, ki, recimo, slepo verjamejo v Koran ali Sveto pismo. »Ko tisoč ljudi en mesec verjame izmišljeni zgodbi, je to lažna novica, ko milijarda verjame tisočletje, je to religija.« Čeprav so v svoji osnovi religije lahko tudi dobre, saj ljudje zaradi njih sodelujejo med sabo in se trudijo biti pogumni, dobri ter sočutni.

Objavi tudi recept populistov, ki ga prepiše kar od najbolj učinkovitega in nevarnega. Hitler je namreč v knjigi Moj boj zapisal: »Niti najsijajnejša propagandna tehnika ne bo obrodila uspeha, če hkrati ves čas ne upoštevamo tega temeljnega načela; omejiti se mora na nekaj točk ter jih znova in znova ponavljati.« Dejstvo je, da če vztrajate pri neolepšani resnici, vam bo sledilo malo ljudi, ugotavlja zgodovinar.
Poudari, kako so v takšnem svetu pomembni dobri mediji in da so tiste novice, za katere morate plačati, ponavadi najbolj resnične.

                                                                                 ***

Čisto na koncu piše o sebi. In se vpraša, zakaj se, četudi dvomi o dobri prihodnosti, zjutraj zbudi dobre volje. V otroštvu je bil nemiren, kot študent nezadovoljen, potem pa je nekoč odšel na meditacijo. »Če znate resnično opazovati trenutek med trajanjem enega vdiha in začetkom drugega, boste razumeli vse.« Dve uri na dan meditira. Morda so prav zaradi tega poglavja nekateri ocenjevalci te knjige zapisali, da gre za zgodovinsko knjigo za samopomoč. A seveda gre za knjigo, ki je nikakor ne moremo uvrstiti v ta žanr, saj vseeno ostaja pomembno poljudnoznanstveno čtivo, kljub osebni in poetični iskrenosti, ki jo včasih najdemo v njej, kot je, recimo, ta, da če si zaljubljen, ti ni treba skrbeti za to, kaj je smisel življenja.


Yuval Noah Harari
Rodil se je leta 1976 in odraščal v Izraelu. Zgodovino je študiral na Hebrejski univerzi v Jeruzalemu, kjer po končanem doktorskem študiju tudi predava. Zaslovel je s knjigo Sapiens, ki ji je sledila še knjiga Homo deus. Prodal je že več kot 12 milijonov knjig, njegov mož je tudi njegov menedžer, je vegan in velik strokovnjak za srednji vek, živi na farmi nedaleč stran od Jeruzalema in nima mobitela.