AI na 361 poljih
Ali smo res prepričani, da lahko v umetne nevronske mreže vgradimo etične principe, ki jih bo nova digitalna inteligenca tudi upoštevala?
Odpri galerijo
Že zdavnaj je nastopil trenutek, ko bi morali bistveno več časa in prostora nameniti vprašanju, kaj narediti z etično dimenzijo v procesu nadaljnjega razvoja umetnih inteligenčnih sistemov. FOTO: Voranc Vogel/Delo
Marca 2016 je računalniški program alphago (projekt DeepMind, v lasti Googla, kajpada) v soju žarometov odigral pet partij v igri go proti najboljšemu igralcu te igre zadnjega desetletja, Korejcu Lee Sedolu. Alphago je zmagal s prepričljivim rezultatom 4 : 1. Novica je pretresla tehnološki svet ter, bolj kot ne, zgolj oplazila širši medijski prostor. Najbrž zaradi tega, ker je bil to za splošno javnost samo še en dokaz več o zmogljivosti računalnikov na poti do umetne inteligence, kot je bil primer zmage programa deep blue proti šahovskemu velemojstru Gariju Kasparovu pred dobrima dvema desetletjema. Vendar se primerjave med tema dogodkoma končajo na točki, da je šlo za tekmo računalnika proti najboljšemu igralcu posamezne igre.
Primer dokaza računalniške superiornosti je leta 1997 demonstriral linearni napredek računalniške procesne zmogljivosti, v primeru alphago pa je na delu nekaj povsem drugega – večplastne umetne nevronske mreže, ki so del strojnega (samo)učenja. Medtem ko so deep blue procesno ustrezno opremili ter vanj vnesli vse možne kombinacije potez, je bila v primeru alphago na delu t. i. surova procesna moč. Zaradi specifike same igre go tak postopek dve desetletji pozneje nikakor ne bi zadostoval – različnih kombinacij je preveč (gre za 10¹⁷⁰), da bi jih lahko zapisali v algoritme ter omogočili njihovo ustrezno hitro procesiranje. Spremenljivk je preprosto preveč – zato ima igra v Aziji status umetnosti; najboljši igralci pogosto ne znajo razložiti, zakaj so naredili katero od potez, ampak so zgolj sledili svojemu občutku in intuiciji.
O dvoboju je posnet izvrsten dokumentarec AlphaGo, pri katerem me je bolj kot dramaturgija napetosti okrog samega dogodka pritegnilo nekaj drugega – odzivi intervjuvanih oseb, ki so dogodek neposredno spremljale ali pa bile (so)udeležene na dogodku. V njihovih odzivih je bilo nekaj kontradiktornega, ni bilo enoznačnih emocij, kot je to, recimo, v primeru športnih zmag (ali porazov). Po eni strani je bil prisoten občutek žalosti, potrtosti ter zaskrbljenosti in je prevladovalo grenko spoznanje, da je stroj premagal človeka tudi v tako zahtevni igri, kot je go. Po drugi strani pa ni mogoče spregledati občutka zmagoslavja ob edini zmagi Lee Sedola ter dejstva, da se alphago ni rodil samostojno, ampak ga je vendarle ustvaril človek. Tudi sklepna razmišljanja dokumentarca so šla v to smer: človeštvo je lahko »varno« pred nadaljnjim razvojem umetne inteligence ter vsemi možnimi (tudi negativnimi) posledicami, saj bomo lahko, če bo treba, »ono« tudi izključili.
Toda ali je temu res tako? Bistvo umetne inteligence ter umetnih nevronskih mrež je to, da se samostojno uči, kot se je v igri izpopolnjeval tudi alphago. In ker je to navsezadnje le strojna oprema, se uči hitro. Eksponentno hitro. Tako je alphago resda dobil bazo milijonov odigranih partij in možnost igranja samega proti sebi. Ustvarjalci so mu seveda dali tudi preprosto navodilo, da je cilj zmagati. Pot do zmage pa je našel povsem sam. In je povrhu obrnil običajno človeško logiko igranja s ciljem zagotove zmage (s čim večjo razliko) na logiko preigravanja možnosti zmage še z minimalno sprejemljivim rezultatom.
Film prikazuje tudi nekaj drugega, prav tako fascinantnega: Lee Sedol je do svoje edine zmage v dvoboju prišel v četrti partiji na način, da je spremenil svoj običajni slog igranja ter sredi igre naredil potezo, ki je bila toliko kreativna, da je zmedla alphago – računalnik v nadaljevanju ni našel ustreznega izhoda iz novonastale situacije na deski. Alphago te poteze preprosto ni pričakoval, pripisoval ji je minimalno verjetnost (1 proti 10.000). In kljub temu jo je Lee Sedol naredil ter s tem, vsaj tako se zdi, našel hibo računalniškega nasprotnika. A le za hip, saj je Alphago že v naslednjem trenutku predvidel tudi tovrstne možnosti in ustrezne poti odziva. Še več: tudi sam je začel uporabljati korake, ki odstopajo od pričakovanih glede na dosedanje človeško izkustvo – številne njegove poteze so se strokovnim komentatorjem zdele »nesmiselne« ali »majhne napake«, ki pa to dejansko niso bile. Končni rezultat temu pritrjuje.
V komentarjih po dvoboju je bilo mogoče zaslediti tudi takšne, ki so govorili o približevanju t. i. »točke singularnosti«, ko naj bi umetna inteligenca presegla človeško. Do te točke seveda še nismo prišli, saj je bil alphago ustvarjen »zgolj« za specifičen problem, ki je sicer zelo kompleksen glede na število možnih kombinacij, izidov in povratnih korakov, a je v svojem bistvu le omejen na konkretno igro. Alphago zmožnosti lastne umetne inteligence ne zna prezrcaliti v neko povsem drugo dejavnost, za to potrebuje človeške možgane in roke. Vsaj zaenkrat.
Gotovo pa je že zdavnaj nastopil trenutek, ko bi morali bistveno več časa in prostora nameniti vprašanju, kaj narediti z etično dimenzijo v procesu nadaljnjega razvoja umetnih inteligenčnih sistemov. Tudi tukaj se pojavljajo pomembne dileme, na katere nimamo odgovorov, čeprav bi jih morali mrzlično iskati: ali je etična dimenzija tudi odgovornost računalniških programerjev in inženirjev, ki jih v svojem bistvu zanima predvsem tehnološki napredek? Ali je mogoče zaupati vodilnim tehnološkim globalnim podjetjem, da jih pri razvoju umetne inteligence ne žene izključno dobičkonosnost? Kot tudi, ali smo res prepričani, da lahko v umetne nevronske mreže vgradimo etične principe (in če da, katere), ki jih bo nova digitalna inteligenca tudi upoštevala?
***
Denis Mancevič, dr. družboslovnih znanosti, menedžer in svetovalec
Prispevek je mnenje avtorja in ne izraža nujno stališča uredništva.
Primer dokaza računalniške superiornosti je leta 1997 demonstriral linearni napredek računalniške procesne zmogljivosti, v primeru alphago pa je na delu nekaj povsem drugega – večplastne umetne nevronske mreže, ki so del strojnega (samo)učenja. Medtem ko so deep blue procesno ustrezno opremili ter vanj vnesli vse možne kombinacije potez, je bila v primeru alphago na delu t. i. surova procesna moč. Zaradi specifike same igre go tak postopek dve desetletji pozneje nikakor ne bi zadostoval – različnih kombinacij je preveč (gre za 10¹⁷⁰), da bi jih lahko zapisali v algoritme ter omogočili njihovo ustrezno hitro procesiranje. Spremenljivk je preprosto preveč – zato ima igra v Aziji status umetnosti; najboljši igralci pogosto ne znajo razložiti, zakaj so naredili katero od potez, ampak so zgolj sledili svojemu občutku in intuiciji.
O dvoboju je posnet izvrsten dokumentarec AlphaGo, pri katerem me je bolj kot dramaturgija napetosti okrog samega dogodka pritegnilo nekaj drugega – odzivi intervjuvanih oseb, ki so dogodek neposredno spremljale ali pa bile (so)udeležene na dogodku. V njihovih odzivih je bilo nekaj kontradiktornega, ni bilo enoznačnih emocij, kot je to, recimo, v primeru športnih zmag (ali porazov). Po eni strani je bil prisoten občutek žalosti, potrtosti ter zaskrbljenosti in je prevladovalo grenko spoznanje, da je stroj premagal človeka tudi v tako zahtevni igri, kot je go. Po drugi strani pa ni mogoče spregledati občutka zmagoslavja ob edini zmagi Lee Sedola ter dejstva, da se alphago ni rodil samostojno, ampak ga je vendarle ustvaril človek. Tudi sklepna razmišljanja dokumentarca so šla v to smer: človeštvo je lahko »varno« pred nadaljnjim razvojem umetne inteligence ter vsemi možnimi (tudi negativnimi) posledicami, saj bomo lahko, če bo treba, »ono« tudi izključili.
Toda ali je temu res tako? Bistvo umetne inteligence ter umetnih nevronskih mrež je to, da se samostojno uči, kot se je v igri izpopolnjeval tudi alphago. In ker je to navsezadnje le strojna oprema, se uči hitro. Eksponentno hitro. Tako je alphago resda dobil bazo milijonov odigranih partij in možnost igranja samega proti sebi. Ustvarjalci so mu seveda dali tudi preprosto navodilo, da je cilj zmagati. Pot do zmage pa je našel povsem sam. In je povrhu obrnil običajno človeško logiko igranja s ciljem zagotove zmage (s čim večjo razliko) na logiko preigravanja možnosti zmage še z minimalno sprejemljivim rezultatom.
Film prikazuje tudi nekaj drugega, prav tako fascinantnega: Lee Sedol je do svoje edine zmage v dvoboju prišel v četrti partiji na način, da je spremenil svoj običajni slog igranja ter sredi igre naredil potezo, ki je bila toliko kreativna, da je zmedla alphago – računalnik v nadaljevanju ni našel ustreznega izhoda iz novonastale situacije na deski. Alphago te poteze preprosto ni pričakoval, pripisoval ji je minimalno verjetnost (1 proti 10.000). In kljub temu jo je Lee Sedol naredil ter s tem, vsaj tako se zdi, našel hibo računalniškega nasprotnika. A le za hip, saj je Alphago že v naslednjem trenutku predvidel tudi tovrstne možnosti in ustrezne poti odziva. Še več: tudi sam je začel uporabljati korake, ki odstopajo od pričakovanih glede na dosedanje človeško izkustvo – številne njegove poteze so se strokovnim komentatorjem zdele »nesmiselne« ali »majhne napake«, ki pa to dejansko niso bile. Končni rezultat temu pritrjuje.
V komentarjih po dvoboju je bilo mogoče zaslediti tudi takšne, ki so govorili o približevanju t. i. »točke singularnosti«, ko naj bi umetna inteligenca presegla človeško. Do te točke seveda še nismo prišli, saj je bil alphago ustvarjen »zgolj« za specifičen problem, ki je sicer zelo kompleksen glede na število možnih kombinacij, izidov in povratnih korakov, a je v svojem bistvu le omejen na konkretno igro. Alphago zmožnosti lastne umetne inteligence ne zna prezrcaliti v neko povsem drugo dejavnost, za to potrebuje človeške možgane in roke. Vsaj zaenkrat.
Gotovo pa je že zdavnaj nastopil trenutek, ko bi morali bistveno več časa in prostora nameniti vprašanju, kaj narediti z etično dimenzijo v procesu nadaljnjega razvoja umetnih inteligenčnih sistemov. Tudi tukaj se pojavljajo pomembne dileme, na katere nimamo odgovorov, čeprav bi jih morali mrzlično iskati: ali je etična dimenzija tudi odgovornost računalniških programerjev in inženirjev, ki jih v svojem bistvu zanima predvsem tehnološki napredek? Ali je mogoče zaupati vodilnim tehnološkim globalnim podjetjem, da jih pri razvoju umetne inteligence ne žene izključno dobičkonosnost? Kot tudi, ali smo res prepričani, da lahko v umetne nevronske mreže vgradimo etične principe (in če da, katere), ki jih bo nova digitalna inteligenca tudi upoštevala?
***
Denis Mancevič, dr. družboslovnih znanosti, menedžer in svetovalec
Prispevek je mnenje avtorja in ne izraža nujno stališča uredništva.
