Moralo bi nas skrbeti, moralo nas bi zelo skrbeti, a kaj ko nam je preveč udobno

Računalnik je štirikrat premagal človeka v igri go. Samo enkrat je Korejcu Li Se Dolu uspelo, da je sredi igre prevzel partijo in presegel stroj. Spopad so napeto pričakovali in spremljali po vsem svetu. Čeprav se zdi, da je bil za večino človeštva to obroben dogodek, pa je bil za poznavalce igre go in umetne inteligence to trenutek, ko so se vprašali, ali je že nastopila točka singularnosti: je umetna inteligenca že presegla človeško?

Kaj sploh je go in zakaj je tako pomembno, da je računalnik prav v tej igri premagal človeka, ki velja za enega najboljših na svetu? In kaj je točka singularnosti? Nekaj odgovorov ponujajo slovenski znanstveniki in igralci goja. A prave bo prinesla prihodnost. Še oktobra 2015, preden je samoučeči se računalniški program AlphaGo, ki so ga razvili v britanskem visokotehnološkem podjetju DeepMind, prvič premagal človeka – takrat »le« evropskega prvaka –, je namreč veljalo, da se to ne bo zgodilo še deset let.

Točka singularnosti

Točka singularnosti je trenutek, ko bo umetna inteligenca presegla človeško. Po napovedih naj bi se to zgodilo enkrat med letoma 2035 in 2070. Futurolog Ray Kurzweil, ki ga je leta 2012 osebno najel soustanovitelj Googla Larry Page, je leta 2005 izdal uspešnico The Singularity is Near (Singularnost je blizu). Je singularnost zdaj že tu?

Akademik dr. Ivan Bratko z ljubljanske fakultete za računalništvo in informatiko, svetovno znani strokovnjak za umetno inteligenco, pravi, da ne. Da je računalnik dobil dvoboj, je po njegovih besedah predvsem še en medijsko zelo odmeven uspeh umetne inteligence, ki pa je pomemben predvsem psihološko, z vidika zelo nazorne demonstracije napredka umetne inteligence. »Znanstveni pomen pa bo pravzaprav majhen.«

Tudi točka singularnosti po njegovih besedah ni dobro definiran pojem. Kako bomo sploh vedeli, da smo prišli do te točke? Inteligenco namreč sestavljajo mnoge različne sposobnosti. »Kdaj bomo šteli, da je računalnik presegel človeka? Verjetno takrat, ko ga bo presegel v vseh teh sposobnostih. Igranje iger, na primer goja, je le ena od njih.« Ostajajo pa mnoge druge sposobnosti inteligence, ki so za računalnik veliko teže dosegljive. Tudi če računalnik zlahka premaguje človeka v šahu ali goju, mu ne bo znal razložiti, zakaj je zmagal. Ne bo znal sestaviti uporabnega in sočnega komentarja partije niti ne bo znal začetnika naučiti dobro igrati.

Pred devetnajstimi leti je v podobnem dvoboju računalnik Deep Blue premagal človeka – svetovnega prvaka Garija Kasparova. »To je velika večina publike doživela kot triumf umetne inteligence nad človekom in s tem potrditev njenega tehničnega napredka; kot neki tehnološko prelomni trenutek. Tisti, ki so podrobneje poznali zmagoviti program, so bili manj impresionirani. Deep Blue je temeljil na že dobro znanem pristopu, to je na preračunavanju mnogih možnih variant v partiji. Odločilno je bilo, da je implementacijo izpeljala profesionalna ekipa na tedaj izredno zmogljivem računalniku. Zato takrat zmage računalnika ni omogočila kakšna prodorna, bistveno nova ideja v umetni inteligenci, temveč je človek klonil predvsem pred grobo računsko premočjo računalnika,« pojasnjuje Bratko.

Uporaba grobe sile

A pri goju ni šlo zgolj za brute force, uporabo grobe sile, ko program zgolj s strojno opremo preračunava vse možne razplete, ne da bi zares vedel, kaj počne. Go je za kaj takega preveč žlahtna, preveč zapletena, preveč intuitivna in preveč ustvarjalna igra. Pri njej je namreč možnih ogromno potez in rezultatov. Raziskovalci celo pravijo, da je položajev več, kot je atomov v vesolju. Za primerjavo: pri šahu ima igralec lahko v danem trenutku na voljo približno dvajset možnih, ne pa nujno tudi smiselnih potez, pri goju pa ob začetku igre tudi do dvesto.

»Brez grobe računalniške moči tudi AlphaGo ne bi bil uspešen. Zaradi premajhne zmožnosti preračunavanja variant človek ne more igrati niti goja niti šaha na način, kot lahko računalnik. Zato mora v obeh primerih svoj primanjkljaj nadomestiti, igrati bolj 'inteligentno' kot računalnik, bolj ustvarjalno in intuitivno. Res je go veliko bolj kompleksen od šaha, kljub temu pa računalniku niti v šahu ne zadošča 'brute force' brez kakršne koli inteligence, za oboje potrebuje grobo silo in inteligenco, le razmerja so različna,« dodaja Ivan Bratko.

Igralec Li Se Dol, ki v zadnjem desetletju velja za enega najboljših na svetu, je po prvi partiji dejal, da je presenečen, po drugi, da je brez besed in da je AlphaGo odigral skoraj popolno igro, po tretji pa se je celo opravičil. Četrto je končno dobil, pri peti pa je južnokorejski velemojster znova moral priznati poraz. Četudi nekateri menijo, da se na dvoboj ni najbolj pripravil oziroma da je sposobnosti programa vsaj sprva podcenjeval, ni dvoma, da igra AlphaGo na zelo visoki ravni. In pri tem, drugače od človeških nasprotnikov, ni izpostavljen čustvom ali različnim ustaljenim sodbam, temveč se odloča hladno pragmatično; tudi to je bil eden od razlogov, da so njegove poteze v situacijah, ko bi bil človekov odgovor skorajda samoumeven, Lija večkrat presenetile. Navsezadnje ima go kot igra med dvema osebama tudi psihološko komponento: včasih je mogoče iz potez razbrati nasprotnikove občutke, ugotoviti, kdaj je previden, kdaj okleva in kdaj se čuti prepričanega o svoji poziciji. Proti programu seveda te komponente ni, kar je lahko za nekoga, ki je navajen igrati le proti ljudem, nekoliko neudobno.

Za zdaj tako velja, da je Googlu, ki je podjetje DeepMind kupil leta 2014, uspel veliki met. Prav Li Se Dol je bil namreč tisti igralec, ki so ga v Googlu želeli za nasprotnika v spopadu med človekom in strojem.

Kaj je go?

Kitajska igra go je stara več kot 2500 let in še danes velja za najbolj zapleteno miselno igro. Igralca na igralno desko polagata črne in bele kamne, s katerimi poskušata osvojiti več ozemlja kot nasprotnik. Pravila so precej preprosta, otrok se lahko osnov nauči v eni uri, a go je kljub temu precej kompleksen – tudi za računalniško programiranje. »Pri šahu je posameznim figuram, določenim dogodkom v igri, kot sta na primer rošada ali menjava figur, in različnim pozicijam razmeroma lahko pripisati ustrezne numerične vrednosti, kar je za programiranje ugodno, saj se programu potem ni težko odločiti, kaj je bolje zanj. Preprosto povedano: če kraljici ob programiranju pripišejo vrednost 100, kmetu pa 10, bo program razen v izjemnih primerih raje vzel kraljico,« pojasnjuje Gregor Butala, 5. dan, predsednik Go zveze Slovenije.

Pri goju so vse figure enake. Njihov pomen in funkcija sta odvisna od vsakokratnega položaja na deski, ta pa se z vsako potezo spreminja. Igralca kamnov med igro ne premikata, ampak zgolj dodajata nove. Razmerja med njimi so zato bolj zapletena in se tudi ves čas spreminjajo.

Z vsako potezo jih je treba na novo ovrednotiti. Kamen ali veriga povezanih kamnov, ki je imela na začetku igre določeno nalogo, lahko to funkcijo kasneje izgubi ali pa se pomen kamnov spremeni. »Gre za uvide in odločitve, do katerih lahko človek pride brez večjih težav, včasih tudi povsem intuitivno, brez posebnega preračunavanja možnih kombinacij oziroma nadaljevanj, zelo težko pa jih je ustrezno sprogramirati,« pojasnjuje Butala.

Zaradi velikega števila kombinacij se je bilo pri razvijanju programov za igranje goja skoraj nemogoče zanašati samo na grobo silo, saj strojna oprema še ni (bila) dovolj zmogljiva. Z razvojem tehnologije so v preteklosti sicer nastali programi, ki so tudi z uporabo surove sile že razmeroma dobro igrali, vendar so bili vseeno še daleč od tega, da bi se lahko enakovredno merili z najboljšimi predstavniki človeške vrste.

Umetna inteligenca

»Dokaj očitno je bilo torej, da bi dober program za go zahteval tudi neko vrsto umetne inteligence za kakovostno vrednotenje posameznih pozicij in potencialnih strategij; da bi lahko denimo zožil izbor kombinacij, ki jih bo podrobneje preračunal. In prav to je uspelo podjetju DeepMind: uporabili so arhitekturo večplastne umetne nevronske mreže, ki je sposobna poteze in situacije vrednotiti po različnih kriterijih, precej podobnim človeškim,« pravi Butala. Preprosto povedano, AlphaGo na višji ravni, vendar v omejenem okolju miselne igre ravna podobno kot Google, ki uporabnikom na podlagi obiskanih spletnih strani ponuja oglase, ki bi jih utegnili zanimati.

Demis Hassabis, soustanovitelj DeepMinda in eden od avtorjev programa AlphaGo, je v intervjujih pojasnil, da se je računalnik pred tekmo nenehno učil. Ko so vanj naložili ogromne količine partij igre go, je postopoma ugotavljal, kaj deluje in kaj ne. Pozneje je veliko partij odigral sam s sabo (spodbujevano učenje) in tako izpilil svoje razumevanje goja, ki, kot kaže, v tem trenutku že dosega (ali presega) človeško. »Revolucionarno je, da je program zgradil lasten sistem za vrednotenje, ki ne izvira zgolj iz tega, kar so vanj vnesli programerji,« dodaja Butala.

AlphaGo združuje tri znane tehnike iz umetne inteligence. Poleg omenjenega spodbujevanega učenja uporablja še posebno metodo iskanja, ki so jo izumili pred desetimi leti prav za igranje goja in jo poimenovali Monte Carlo. Z njo se računalniški program odloči za naslednjo potezo, in sicer tako, da naključno simulira veliko možnih nadaljevanj partije iz položaja, v katerem je.

Z uporabo globokih nevronskih mrež pa je v nekem smislu v igro vpeljal še intuicijo. Prav ta namreč ločuje najboljše igralce od zgolj dobrih. »Z globokimi nevronskimi mrežami se računalnik neverjetno uspešno uči. Paradoksalno pri tem pa je, da tako rekoč nihče ne razume, zakaj in kako ta metoda učenja tako dobro deluje,« pojasnjuje akademik Ivan Bratko.

Pomen za človeštvo

Kaj zmaga pomeni za človeštvo? Najmanj to, da dvoboji med človekom in računalnikom ne bodo več zanimivi, saj bo računalnik za človeka odslej bolj ali manj nepremagljiv. A v številnih medijih so se že po prvi zmagi začeli pojavljati prispevki z naslovi: Zakaj bi vas Googlov najnovejši dosežek upravičeno moral skrbeti (Huffington Post), Ustanovitelj podjetja DeepMind Demis Hassabis o tem, kako bo umetna inteligenca oblikovala prihodnost (Verge), Zmaga AlphaGo pomeni, da se bo svet spremenil (The Next Web).

Zmaga računalniškega programa naj bi po teh napovedih temeljito pretresla svet, kot ga poznamo danes. Med drugim naj bi učeča se umetna inteligenca, ki so jo načrtno zgradili, da bi delovala čim bolj splošno, ne pa ozko omejeno, denimo za igranje šaha, pomagala pri prebojih v medicini in problemih zaradi klimatskih sprememb in nasploh reševala najtežja družbena vprašanja.

Strokovnjak za umetno inteligenco in avtor knjige Heartificial Intelligence John Havens je v Huffington Postu opozoril, da je treba Googlova prizadevanja jemati resno. Google je resda tehnološko podjetje, ampak je tehnološko podjetje, ki živi od oglasov. Pomemben del prihodkov izhaja iz marketinga. »Skrbi me, če mislite, da so milijarde dolarjev investirali za to, da bi pomagali človeštvu. To bodo uporabljali za oglaševanje, o tem ni nobenega dvoma,« je dejal.

Oglasi so pravzaprav še najmanjši problem: tehnologija lahko različno vpliva na človeški vsakdanjik, med drugim bi lahko vplivala na to, kako bomo volili. Tudi dr. Ivan Bratko je lani na posvetu v SAZU omenjal podobne scenarije kot strokovnjak za robotiko Illah Nourbakhsh, ki je v Huffington Postu opozoril, da se bomo morali vprašati, ali bomo še imeli svobodno voljo.

Bratko je namreč svaril pred koncem demokracije, saj sta umetna inteligenca in internet zelo močni orodji za manipuliranje z ljudmi. Internet nenehno zbira ogromne količine podatkov o vsakomur. Njihova neomejena obdelava z metodami, ki temeljijo tudi na umetni inteligenci, je ogromen dejavnik tveganja. »Obstajajo računalniške metode, ki jih uporabljajo v sistemih za priporočanje, s katerimi se računalnik za vsakega posameznika nauči napovedati, kaj mu je všeč in kaj ne. Ne le kateri filmi ali knjige so mu všeč, temveč tudi katere politične opcije bi mu prijale in za katere obstoječe ali potencialne politike bi oddal svoj glas. Obstajajo metode, ki po internetu učinkovito spreminjajo ali oblikujejo mnenja in preference članov družbenega omrežja. Obstajajo metode, ki avtomatsko razpoznajo, kdo so najbolj vplivni člani družbenega omrežja. Vse to omogoča manipulacijo z uporabniki interneta ne le za običajno trženje izdelkov, temveč tudi za kreiranje in 'trženje' političnih opcij in likov politikov, ki bodo najbolj izvoljivi. Poleg tega pa lahko računalnik po družbenih omrežjih zelo učinkovito poskrbi za razširjanje in utrjevanje tistih preferenc, za katere je kdo posebej zainteresiran. Računalnik lahko nagovarjanje prilagodi vsakemu volivcu posebej,« pravi profesor.

Gumb za izključitev

Ali lahko torej človek najbolj črne scenarije sploh še kako prepreči? Bi moral poskrbeti vsaj za kakšno varovalko, nekakšen varnostni gumb, s katerim bi še lahko prevzel nadzor nad umetno inteligenco?

»Največje tveganje je povezano z nekaterimi nebrzdanimi aplikacijami interneta. Tak varnostni gumb bi bil na primer izključitev interneta. Vendar – ali je danes ob splošni odvisnosti od interneta to realna možnost? Življenje bi se tako rekoč ustavilo.«

Da razvoj umetne inteligence poleg velikih prednosti prinaša tudi nevarnosti, opozarjajo odprta pisma, ki so jih množično podpisali znanstveniki umetne inteligence. Vendar je vpliv teh pozivov šibek. Večina ljudi se tveganja zaradi nebrzdanega razmaha interneta in razvoja umetne inteligence ne zaveda oziroma jih ne občutijo dovolj konkretno, zato jih ignorirajo. »Tipični uporabnik interneta raje udobno uživa v prednostih, ki jih internet omogoča, s tveganji in možnostmi zlorab se pa ne obremenjuje. Zakonodaja, ki bi morala postaviti pravni okvir za preprečevanje zlorab, med drugim za zaščito demokracije, hitremu tehnološkemu napredku ne more slediti, kaj šele ustrezno ukrepati.«

Na tovrstna tveganja uporabnike sicer med drugimi opozarjajo informacijski pooblaščenci; svarijo pred nevarnostmi preobsežnega zbiranja osebnih podatkov in tveganji, ki jih prinaša uporaba novih tehnologij. »Prizadevamo si denimo za sprejem zakonodaje, ki bi uredila področje uporabe brezpilotnih letalnikov, sodelujemo pri pripravi evropske uredbe o varstvu osebnih podatkov, ki do neke mere obravnava tudi trende naraščajočega profiliranja ljudi, množičnih obdelav podatkov (big data), interneta stvari,« pravi informacijska pooblaščenka Mojca Prelesnik. A koliko jih zakonodajalci upoštevajo? »Kljub temu da opozarjamo že leto in pol, pri ureditvi brezpilotnikov še vedno čakamo na zakonsko ureditev, evropska uredba o varstvu osebnih podatkov pa bo po dolgih pogajanjih, kot kaže, letos vendarle sprejeta.«

Pogosto pa se žal strinjajo z ugotovitvami, da javnost premalo razume koncept in pomen zasebnosti, podobno pa včasih tudi politika in zakonodajalci.

Kaj ostane človeku?

Kaj bo še ostalo človeku, kar ga dela človeškega, če bo stroj začel posnemati človeško razmišljanje, uporabljati čustva in bo imel tudi zavest? »Stroj bo res vse to lahko posnemal. Vendar smo še zelo daleč od tega, da bi bil stroj zmožen komunicirati z ljudmi podobno naravno in inteligentno, kot so tega sposobni ljudje med seboj. Zato si je na primer težko predstavljati, da bi bil lahko pogovor z računalnikom podobno privlačen kot pogovor z ljudmi,« meni Bratko. A prav to je zdaj naslednji izziv za Raya Kurzweila. Wikipedija navaja, da je opis njegovih del in nalog zaobjet v enem stavku: Googlu naj bi pomagal doseči, da bo stroj uporabljal naravni človeški jezik.

Bi nas torej moralo skrbeti? Še vse tehnologije, ki jih je človeštvo iznašlo, so bile prej ali slej zlorabljene. V Googlu se tega zavedajo, zato so ob nakupu DeepMinda poskrbeli tudi za odbor za etiko. A temu že očitajo skrivnostnost, poroča Huffington Post. Da so v podjetju včasih res skrivnostni glede svojih projektov, dokazuje epizoda, povezana s prometno nesrečo njihovega samovozečega vozila letos na valentinovo. Podrobnosti so v javnost prišle, ko je agencija AP za podatke prosila pristojni urad za transport po zakonu o dostopu do informacij javnega značaja. Dr. Primož Škraba iz laboratorija za umetno inteligenco Inštituta Jožefa Stefana pravi, da je bilo njihovo vozilo vpleteno v več nesreč, a večinoma zato, ker je vozilo prepočasi. »Neformalna analiza je pokazala, da je bil avto bolj previden kot človeški voznik.«

Ivan Bratko ob tem opozarja še na drugi vidik: »Programi, ki vodijo samovozeče avtomobile, bodo morali poleg nedvoumnih prometnih predpisov upoštevati tudi zdravorazumske reakcije voznikov. To pa ne bo tako enostavno.«

Škraba prometne nezgode Googlovega vozila povezuje z dejstvom, da znanstveniki še ne razumejo, zakaj tehnologija deluje, kot deluje, niti tega, kdaj lahko odpove. »Z matematičnega vidika je to iskanje po prostoru nelinearnih funkcij. To je načeloma zelo težek problem. Sistem nam lahko pove, kaj naj naredimo, ne zna pa razložiti, zakaj.«

Zmaga računalnika v igri go po njegovih besedah dokazuje, da je človek sposoben avtomatizirati kompleksne dejavnosti. »V prihodnosti bomo lahko razvili tehnologijo, ki bo naš namen prevedla v dejanje.« A sedanji dosežek za zdaj raje primerja z mikroskopom ali teleskopom: z napravo, ki je presegla naravne sposobnosti človeka, a ima specifični namen.

Točka singularnosti torej vsaj po zagotovilih Ivana Bratka in Primoža Škrabe še ni nastopila. A kaj bo s človekom in človeštvom, če bo umetna inteligenca nekoč presegla človeško? »To je tehtno filozofsko vprašanje. Toda program, ki je človeka premagal v igri go, ni zavesti nič bliže kot tisti, ki ga uporablja Google, da vrne rezultate iskanja. V osnovi je to matematična funkcija, ki vrne neko vrednost. Pravo filozofsko vprašanje je, ali smo mi, torej ljudje, določeni z matematično funkcijo. Moje mnenje je, da nismo,« pravi Škraba.

Morda AlphaGo, čeprav samoučeča se umetna inteligenca, res še ni blizu človeški zavesti, a to ne pomeni, da ni že skrajni čas za razmislek, kako vanjo umestiti etične vrednote. Pojavlja se bojazen, da bi nekega lepega dne, ko bi se dovolj razvila, lahko izklopila vse, kar ji stoji na poti, torej tudi človeka. »Tudi umetna inteligenca se lahko drži etičnih načel,« pravi Bratko. Tega sploh ni tako težko doseči. V inteligentni program bi morali vgraditi omejitve, ki ustrezajo etičnim principom. »Za to načeloma ni ovir, čeprav res obstajajo izjemne situacije, kjer je še stvar diskusije, kaj je za računalnik etično in kaj ni. Podobno kot obstajajo nerazčiščene finese pri etiki za ljudi. Vendar mora biti programer zainteresiran za etičnost svojega programa. Če pa ta element raje zanemari ali mu je v interesu celo ravno obratno, potem se res lahko zgodi vse.«

Akademik pozna primere, ko je kolege bližina uspeha tako prevzela, da niso videli ali celo niso hoteli videti neželenih posledic. Do neke mere jih razume, saj jim stroka priznava uspeh predvsem za njihove tehnične dosežke. »Ne morem pa se strinjati z razmišljanjem, naj se z etičnimi vidiki uporabe dosežka ukvarja nekdo drug, češ, 'to ni moj problem'. Vsak raziskovalec bi moral sam misliti tudi na možna tveganja kot posledice njihovih rezultatov. Avtor jih lahko najbolje predvidi, razume in nanje opozori.«

V umetni inteligenci bo tako samo toliko etičnih vrednot, kolikor jih bo vanjo vgradil človek. Morda se bo nekoč izkazalo, da se lahko v skupnosti inteligentnih agentov, na primer robotov, spontano razvijejo moralna oziroma etična načela, ki so primerna za take skupnosti. A nihče ne ve, ali bodo ta merila dobra za ljudi.