Zavest je le iluzija možganov

Tanmay Bakshi o tem, ali nam bodo računalniki olajšali življenje ali pa nas bodo pokončali
Objavljeno
09. november 2018 06.00
Posodobljeno
09. november 2018 06.00
Tanmay Bakshi, 14-letni računalničar, ki v sodelovanju z IBM-om sodeluje na področju razvoja umete inteligence oz. nevronskih sistemov ali mrež. Foto Uroš Hočevar
Simona Drevenšek
Simona Drevenšek
Tanmay Bakshi ima zgolj 14 let, pa je že eden najboljših raziskovalcev tehnologije strojnega učenja in umetne inteligence. Navdušuje ga sistem umetne inteligence IBM Watson, s katerim bi lahko naredili naslednjo generacijo aplikacij, ki bi imele »razum« in bi lahko same od sebe urejale nestrukturirane podatke.

Ko so se njegovi vrstniki igrali z legokockami, se je on pri petih letih naučil kodirati, tako da je opazoval očeta, računalniškega programerja. Danes ga zanima vse, kar je povezano s kognitivnim računalništvom, nam je povedal ob prvem obisku Slovenije. Bil je namreč glavni govornik na IBM-ovi konferenci Kjer tehnologija sreča človeštvo, ki je te dni potekala na Bledu.

Pri IBM uradno ni zaposlen, vendar s podjetjem sodeluje pri različnih projektih. Je računalniški programer, strokovnjak za umetno inteligenco in vsestranski tehnični izumitelj. Razvil je več aplikacij, napisal knjigo, gostil TEDx Talk in o Watsonu govoril po vsem svetu. Nad Watsonom se je navdušil pri enajstih letih, ko je na youtubu našel dokumentarni film o tem, kako je ta sistem leta 2011 zmagal v igri jeopardy. »Začutil sem, da tehnologija ni več tako zabavna kot nekoč, nič novega ni bilo. Zavedal sem se, da je v hipu, ko sem vstavil kodo, ta že zastarela,« se spominja trenutka, ko se je navdušil nad strojnim učenjem in umetno inteligenco. Bakshi se že nekaj let šola doma. Lahko bi šel študirat, vendar pravi, da stvari noče prehitevati.
 

Prihod umetne inteligence napovedujejo od petdesetih let prejšnjega stoletja. Zdi se, da je blizu, a je vedno zelo daleč. Kljub temu obljube o izrednem potencialu še odzvanjajo. Kako daleč smo na tem področju?


Najprej je treba definirati, kaj je tehnologija in kakšne predstave imamo o umetni inteligenci. Nekateri o njej razmišljajo kot o zlobni tehnologiji, ki bo nadvladala človeka, drugi jo vidijo zgolj kot matematični model. Enotnega mnenja ni, zato je IBM uporabil izraz kognitivno računalništvo. Kako daleč smo prišli? Daleč, predvsem zaradi implementacije tehnologije. Ko je kognitivni psiholog Geoffrey Hinton razvil AlexNet, konvulzivno nevronsko mrežo za globoko učenje, je naredil velik preskok. Gre za sisteme, ki prepoznavajo fotografije. Hinton je dokazal, da so nevronske mreže koristne in da lahko matematični potencial računalnika uporabimo za učenje: ta na fotografiji prepozna psa in ga loči od mačke. Prehodili smo dolgo pot – samo poglejte nove iphone, ki imajo vgrajen nevronski motor za strojno učenje. IBM je nedavno razkril zanimivo aplikacijo AI Fairness 360. Ta razširljiva zbirka orodij pomaga pri proučevanju, poročanju in blaženju diskriminacije in pristranskosti v modelih strojnega učenja v celotnem življenjskem ciklu aplikacije.
 

Toda napredni tehnološki sistemi so pristranski. Eric Loomis je bil v Wisconsinu na priporočilo umetne inteligence oziroma algoritma obsojen na šest let zapora. Kazen je predlagal sistem Compas, ki ga je zasnovalo zasebno podjetje Nortpointe. Je za pristranskost kriv programer ali algoritem?


Če bomo nekoč razvili nekaj bolj inteligentnega od človeka, to ne bo umetna inteligenca, ampak biotehnologija.


Na to lahko pogledamo z zornega kota dileme glede samovozečih avtomobilov. Recimo, da avtomobil nima izbire – pred njim je tovornjak, ki bo trčil vanj, in odločiti se mora, ali se bo zaletel, se umaknil in zbil kolesarja brez čelade ali pa zapeljal na drugo stran ceste in zbil pešca. Zdi se, da nimamo izbire, in se sprašujemo, koga kriviti. Ampak z istimi vprašanji smo se ukvarjali že v preteklosti, ko so po cestah vozile kočije in so občasno podrle kakšnega pešca. Kdo je kriv? Ne moremo kriviti niti konja, niti kočijaža, niti pešca. Razmisliti moramo, kako rešiti težavo in jo aplicirati na današnji čas. Kar pa zadeva pristranskost programov, menim, da ni kriv program. Niti programer. Računalniku ne rečemo, kako naj sklepa in do kakšnega zaključka naj pride. Gre za izpopolnjen sistem prepoznavanja vzorcev. Bi pa to lahko napeljalo na pristranskost ljudi. Ampak vse ni slabo in IBM in druga podjetja delajo v smeri, da bi to preprečila.


Ali v umetni inteligenci in strojnem učenju vidite potencial tudi zato, ker ste mladi in ste s to tehnologijo odraščali?


Morda (smeh). Ampak odkar sem prvič naletel na tehnologijo strojnega učenja, me je zanimalo, kaj lahko počnem z njo. Kot razvijalec se zavedaš, česa je strojno učenje sposobno in česa ne. Mnogi verjamejo besedam Stephena Hawkinga, da bi umetna inteligenca lahko privedla do konca človeštva, ali Elona Muska, da je umetna inteligenca škodljiva. V resnici govorijo o splošni umetni inteligenci, ne o strojnem učenju. Govorijo o tehnologiji, ki bi morda lahko obstajala v daljni prihodnosti. Računalništvo je namreč skupek elektronskih vrat, ki nadzirajo pretok elektronov, kar nam omogoča hitre in zelo natančne računske operacije. Računalnik je omejen na okolje, ki mu ga damo; nima možganov. Gre za nize vklopov in izklopov, ki vzbujajo iluzijo, da gre za nekaj več. Zato sem prepričan, da je strojno učenje dobro. Če bomo nekoč razvili nekaj bolj inteligentnega od človeka, to ne bo umetna inteligenca, ampak biotehnologija.
 

Ali lahko kakšna naprava postane inteligentna z zmožnostjo zaznavanja, interakcije, razumevanja in odločanja?


To je večplastno vprašanje. Veliko sem raziskoval, tudi v psihologiji, in se ukvarjal z vprašanjem, zakaj vidimo ali kako dojemamo neko stvar, zato ni mogoče z gotovostjo trditi, da je to mogoče. Menim, da računalnik nikoli ne bo imel zavesti. Je pa težko opredeliti zavest in zaznavanje, saj je to le iluzija možganov. Slepi ljudje ne vidijo, a se tega zavestno ne zavedajo, in zato nagonsko na vprašanje, koliko prstov vidijo, tudi odgovorijo.

image
Foto Uroš Hočevar

 

Na katerih področjih umetne inteligence lahko pričakujemo največji razvoj?


V izobraževanju in zdravstvu. Zdravstvo je izredno pomembno za ljudi, še posebej glede na pomanjkanje zdravstvenih delavcev. Svetovna zdravstvena organizacija predvideva, da bo do leta 2035 več kot 12,5 milijona zdravstvenih delavcev premalo. Hkrati je zdravstveno področje zelo razvejeno, z veliko podatki. Samo v ZDA je leta 2015 nastalo 60 milijard medicinskih posnetkov. Z natisnjenimi podatki bi CN Tower, najvišjo stavbo v Kanadi, napolnili šestinpolkrat. V Avstraliji vsakih šest ur zaradi melanoma umre en človek, čeprav ga je preprosto pozdraviti – odstraniti je treba kožno lezijo. Kožna lezija pa je lahko tudi znak kakšne druge bolezni, ne le melanoma, in pri analizi takšnih podatkov lahko pomaga prav sistem umetne inteligence Watson.
 

Kdo pogosteje naredi napako, zdravnik ali umetna inteligenca?


Računalniki niso pametnejši od zdravnikov, toda če Watson in zdravniki delajo z roko v roki, so lahko vsi boljši. Watsonova naloga je pomagati pri primerih, kjer so na voljo kakovostni podatki. Če teh podatkov ni, je težko priti do pravih vpogledov, in takrat je še toliko bolj pomemben človeški dejavnik. Zato umetno inteligenco sam raje imenujem povečana inteligenca (angl. augmented intelligence).
 

V zdravstvu razvijate dva zanimiva projekta: deklici poskušate vrniti sposobnost komuniciranja in zavzemate se za zgodnje odkrivanje depresije pri mladih. Kako vam pri tem pomaga strojno učenje in zakaj ste se lotili teh dveh projektov?


Rad bi pomagal ljudem. Presunili so me podatki, da v Avstraliji na več kot 40 odstotkov klicev ljudi v duševni stiski na telefonske številke za pomoč ne odgovorijo, ker ni dovolj osebja. S tehnologijo strojnega učenja lahko pomagamo – razvijem lahko algoritem, ki se bo obnašal kot terapevt v zgodnji fazi pomoči in kličočega umiril, dokler ne bo dostopen terapevt. Podobno kot Applova ura, ki spremlja vitalne funkcije, bo aplikacija spremljala vaše duševno zdravje. Vsi podatki – lokacija GPS, facebook, twitter, kratka telefonska sporočila – so anonimni in kodirani, niti FBI ne more do njih (smeh). S spremljanjem navad lahko prek aplikacije ugotovimo, ali bi vaše vedenje lahko vodilo v depresijo. Pri projektu Cognitive pa skušam z uporabo globokih učnih algoritmov razumeti elektroencefalografske možganske valove (EEG). V Kanadi tako pomagam deklici Boo, ki je tetraplegik in ne more povedati, da je žejna, lačna ali da hoče, da izklopijo televizor. Rad bi naredil napravo, ki bo skenirala možganske valove in jih prevedla v naravni jezik.
 

Kako daleč ste pri tem?


Zdaj lahko komunicira v binarnih kodah, z da in ne, načrtujemo pa razširitev uporabe umetne inteligence na druga vprašanja, vendar za to potrebujemo več podatkov. Da bi lahko zbrali več podatkov, pa potrebujemo tudi boljši naglavni set za zbiranje podatkov EEG.
 

Kako bi lahko umetna inteligenca pomagala v izobraževanju?


Računalniki niso pametnejši od zdravnikov, toda če Watson in zdravniki delajo z roko v roki, so lahko vsi boljši.
Na tem področju so potrebne korenite spremembe. Obdaja nas kopica novih tehnologij, ki jih ne uporabljamo. Tudi univerzalni izobraževalni sistem bi morali spremeniti, saj se vsak uči drugače. Eni se lažje in bolje učijo vizualno, drugi s poslušanjem, nekdo je boljši v matematiki, nekdo v umetnosti ali tehniki. In vsega v enakem obsegu ne bi smeli zahtevati od vseh, ker to ne deluje. S tehnologijo strojnega učenja bi področje izobraževanja lahko uravnotežili in ga naredili bolj personaliziranega.
 

Bo umetna inteligenca privedla človeštvo v propad?


Mnogi zaradi filmov o umetni inteligenci razmišljajo kot o nevarni tehnologiji, a za slabe namene bo uporabljena le, če bomo tako hoteli ljudje. V resnici gre le za sistem matematičnih operacij, ki daje videz inteligentnosti. Vse kar počnemo, je povezano s tehnologijo, je pa res, da uporabljamo tehnologijo tudi takrat, ko je ne bi potrebovali. Ne računamo več na pamet, nekoč smo si zapomnili 40 telefonskih številk, danes morda dve. Po drugi strani pa nam tehnologija večkrat omogoči, da spomin uporabljamo za bolj pomembne stvari.
 

Res mislite, da zaradi tehnologije možgane uporabljamo za bolj inteligentne stvari kot nekoč? Navsezadnje brez GPS večina ne zna več nikamor priti.


Res je, GPS odvzema nekatere sposobnosti, to je dokazano. Tudi računanje na pamet je boljše za razgibavanje možganov kot uporaba kalkulatorja. Trdim pa, da bo dolgoročno uporaba tehnologije koristna. Sokrat je bil prepričan, da je pisava sovražnik spomina. Ljudje smo se vedno bali nove tehnologije, vendar je moderni človek bolj radoveden in odprt za nove tehnologije od predhodnikov, zato lahko počnemo stvari, ki jih prej nismo mogli. To ne pomeni, da bodo čez noč vsi vozniki brez dela, ker bodo na cestah avtonomna vozila; prehod bo postopen, trajal bo več deset let. Predvidevam, da bo rast na področju umetne inteligence eksponentna.