Etika robotov v mestih prihodnosti

Mesta prihodnosti, robotski avti in etika algoritmov.
Objavljeno
25. september 2015 14.08
Mojca Kumerdej
Mojca Kumerdej

Leta 1900 je v mestih živelo 165 milijonov ljudi oziroma deset odstotkov svetovnega prebivalstva, danes jih živi 3,5 milijarde, torej več kot polovica. V Aziji, zlasti v Indiji in na Kitajskem, pospešeno rastejo mesta, a ne le iz obstoječih mest, kot se je predvidevalo v preteklosti, ampak tudi iz podeželskih naselij. Kakšna bodo mesta in habitati prihodnosti, je bila osrednja tema festivala umetnosti, tehnologije in družbe Ars electronica, ki je v začetku septembra potekal v Linzu.

Večina odgovorov, ki jih ponujajo arhitekti, zveni zloščeno in optimistično – to bodo »pametna mesta« oziroma postmesta, v katerih bo v proizvodnji delalo več robotov kot ljudi, namesto poštarjev bodo pošto in pakete po zraku dostavljali droni, avtomobili bodo vozili avtonomno, mesta pa bodo med sabo in znotraj inteligentno povezana.

Toda ob eksploziji blokovskih termitnjakov obstajajo urbani procesi, kot so implozije megapolisov, ki se v središčih in na obrobju sami vase sesedajo v nepregledne sive cone, kjer infrastruktura ne presega najsiromašnejšega podeželja, posledica prenaseljenosti pa je velika onesnaženost, kar v nasprotju s podeželjem onemogoča lastno pridelavo hrane. Brez dragih urbanističnih načrtov rastejo spontano tudi druga ogromna naselja, ki prebivalcem ne zagotavljajo ne varnosti ne prosperitete. Al Zatari, tretje največje postbegunsko mesto na svetu, je nastalo leta 2012 v Jordaniji tik ob meji s Sirijo. Danes tam živi okoli 100.000 beguncev večinoma iz Damaska in Homsa, od tega več kot polovica otrok. Življenje v njem je kaotično in tudi nevarno, zapuščanje mesta, ki je dejansko bolj ko ne taborišče, pa je strogo nadzorovano.

Poseben arhitekturni fenomen v zadnjih letih predstavljajo kitajski mestni kloni. Hallstatt je mestece z okoli tisoč prebivalci v zgornjeavstrijski pokrajini Salzkammergut, kjer so odkrili grobove iz starejše železne dobe in po katerem se imenuje tudi halštatska kultura. Leta 2012 pa je mestece dobilo dvojnika Hallstatt See v južnokitajski provinci Guangdong, uro vožnje iz Hongkonga, ki šteje 4,5 milijona prebivalcev. Ideja za halštatsko repliko se je porodila v glavi žene enega od članov upravnega odbora rudarske družbe v državni lasti, China Minmetals Corporation, ki je nad Avstrijo očarana. Arhitekti so natančno posneli izvirnik in ob tamkajšnjem jezeru postavili popolno repliko starega osrednjega trga avstrijskega izvirnika, vključno s protestantsko cerkvijo, na okoliških hribih pa postavili vile v bavarskem slogu. Neokrnjena narava, oplemenitena z avstrijsko tradicijo, je privabila kupce premožnega kitajskega srednjega sloja. Kitajski Hallstatt ni edini klon evropskih mest; med urbanističnimi kitajskimi replikami so tudi stara mestna jedra Firenc, Pariza, Vatikana in Benetk, vključno s kitajskimi gondoljerji.

Festivalski organizatorji so se glede na naslovno temo poigrali z izbiro letošnjega osrednjega prizorišča in srčiko dogajanja umestili v pred dvajsetimi leti zgrajeni poštni logistični center tik ob linški železniški postaji, ki pa so ga že pred leti opustili. Letošnji festival, naslovljen Post-City, je bil postavljen v surovo industrijsko okolje na površini 100.000 kvadratnih metrov v duhu kreativnih industrij – torej tistih uporabnih inovacij, ki jih je mogoče postaviti na trg, kreativnost na delu pa je ponazarjal nepregleden kaos, v katerega so poleg osrednjega simpozija na temo urbanizma in arhitekture prihodnosti postavili več razstavnih sklopov, program za otroke in mladostnike ter avstrijsko ekološko ponudbo hrane in njeno recikliranje. Futuristična ideja izpred desetletij, da bo človek v prihodnosti povsem zadovoljen z zrezkom in tortico v obliki tablet, je že tedaj zvenela skrajno naivno, saj je zanemarjala dejstvo, da hrana zadeva preživetje le v najsiromašnejših predelih, sicer pa je objekt užitka, različnih konceptov življenjskega sloga, kulturne identitete in v zadnjih letih tudi svetovni trend popularne kulture.

Algoritemska etika

Na vprašanje, ali bi se počutili varni oziroma bi bili sploh pripravljeni sesti v samovozeči, avtonomni avtomobil, bi večina odkimala. Na vprašanje, katerim voznikom najbolj zaupajo, pa bi verjetno večina odvrnila, da tistim najbolj umirjenim in izkušenim, ki bi se v kočljivih situacijah, v katerih odločajo sekunde, avtomatsko odzvali čim bolj preudarno – voznikom torej, ki so približek robotom oziroma avtomatom. Avtonomni avtomobili, ki naj bi na ceste megapolisov zapeljali čez poldrugo desetletje, so brez dvoma varnejši od ljudi, ki v najrazličnejših stanjih in razpoloženjih za volanom nemalokrat telefonirajo, ki so lahko trezni, lahko ne, ki so lahko čili kot dren, lahko pa šofirajo s spregledanimi prvimi znaki demence in infarkta.

Ena glavnih zvezd letošnjega festivala Ars electronica je bil avtonomni mercedes F015, prototip, oglaševan kot Luxury in Motion, v primerjavi z malo Googlovo grdobo nedvomno lepotec, ki si ga je večina lahko zgolj ogledovala razstavljenega za napeto vrvico. Ne le lep, videti je popoln, o čemer nas prepričujejo tako Mercedes-Benz kot inženirji centra Futurelab Ars electronice, ki so sodelovali pri njegovi izpopolnitvi. Avto na električni in vodikov pogon je opremljen s stereokamerami, radarjem in drugimi senzorji, ki omogočajo 360-stopinjsko senzorsko konfiguracijo. Z napolnjeno baterijo prevozi 200 kilometrov, s polnim tankom vodika do 1100 kilometrov in je med drugim zmožen samostojnega parkiranja. Je zelo prostoren, saj v dolžino meri dobrih pet metrov, v širino dva metra in poldrugi meter v višino. Njegova oprema, vključno z led-lučmi, omogoča komunikacijo z drugimi avtomobili in udeleženci v prometu – ko so luči modre barve, to pomeni, da avto vozi sam, ko so prižgane bele, pa ga za volanom upravlja človek. Štirje ločeni sedeži so električno pomični, kar olajšuje vstopanje in izstopanje, potnikom je na voljo šest zaslonov in z avtomobilom komunicirajo z očesnim stikom, gestami in dotikom. Ko avto zagleda oklevajočega pešca, se ne le ustavi, ampak preveri okolico, in če presodi, da je varno, pred pešca lasersko projicira prometno zebro, rekoč: Please, go ahead. Povsem robotski avto lahko hitro vzbudi občutek, da je mnogo pozornejši in bolj odziven od voznikov, sopotnikov in drugih udeležencev v prometu, da je torej bolj človeški od ljudi.

Vendar obstaja neprijetno vprašanje, ki ga proizvajalci avtonomnih avtomobilov v svojih predstavitvah ne omenjajo, kot tudi ni omenjeno v katalogu Ars electronice. Četudi so avtonomni avtomobili bistveno varnejši od človeških voznikov in naj bi se po najbolj optimističnih napovedih izognili 93 odstotkom nesreč, ki jih vozniki povzročijo zaradi napak, pa se ne bodo mogli izogniti prav vsem nevarnim situacijam, ki bodo zahtevale hitre in v nekaterih primerih usodne odločitve. Kako bo avtonomni avtomobil ravnal v primeru, ko se bo na ozki cesti pred predorom iznenada pojavil otrok in bosta na voljo le dve možnosti – bodisi da avto zapelje v otroka in s tem reši sebe in svojega potnika bodisi da se skupaj s potnikom zabije v stene predora in s tem reši otrokovo življenje? Se bo med motoristom s čelado in motoristom brez čelade odločil, da se zaleti v motorista s čelado, ki ima večjo možnost preživetja od tistega brez čelade, a s tem »kaznoval« nesrečnika, ki se drži cestnoprometnih predpisov? Odgovor na ta vprašanja je preprost – avtonomni avtomobili se bodo algoritemsko »odločali« tako, kot bodo programirani. Bistveno težje pa je vprašanje, kdo bo tisti, ki jih bo programiral in s tem prevzel odgovornost za ravnanje avtonomnih avtomobilov v primerih neizbežnih trkov?

Na osnovi kakšne etike in prioritet naj bi bil avto programiran? Ali naj bi imel kupec pravico izvedeti, v kakšen etični univerzum seda? Ali ga bo njegov dragoceni avto obvaroval za vsako ceno ali pa bi bil v primeru, če bi presodil, da lahko prepreči hujšo katastrofo, pripravljen delno tvegati? Ali naj bi imeli kupci celo možnost izbire programa, ki bi pomenil približek njihovi osebni etični drži? Pričakovati, da bi bili potniki dolžni sami reševati kočljive prometne situacije, je nesmiselno, saj v tem primeru avto ne bi bil več avtonomen, poleg tega za zdaj ni kaj dosti besed o starostni omejitvi potnikov.

Etika robotskih algoritmov, katere se med drugim lotevajo filozof Patrick Lin z Univerze Stanford in spletna revija Robohub, je hudo nelagodje zbujajoča črna skrinjica. A obstaja še ena, ki pa deluje na ravni fantazme. »Najbolj cenjeni dobrini v 21. stoletju bosta zasebnost in čas,« oznanja šef Deimlerja, Dieter Zetsche. Vendar na zasebnost, vsaj kar zadeva potovanje, lahko potniki pozabijo, saj so avtonomni avtomobili priklopljeni na omrežja. Kot nam kažejo izkušnje z vpeljevanjem vse več naprav v vsakodnevno življenje, pa se prav tako ne kaže nadejati, da bomo z avtonomnimi avtomobili pridobili več časa. Časa bo natanko toliko, kot ga je zdaj, ob drugačnih prioritetah njegovega razporejanja pa bo ključno, ali bomo imeli občutek, da nam ga ostaja več. Več časa za kaj? Poleg tega, da bo avto omogočal samostojno mobilnost slepim in slabovidnim, starostnikom, hendikepiranim, morda celo otrokom, bo avtonomni avto potnikom omogočal, da se med vožnjo posvetijo delu, se v miru spočijejo in naspijo oziroma se v miru vsaj dolgočasijo. Potniki bodo med vožnjo lahko jedli, se morda celo zapijali, skupaj s sopotniki nemara vrgli partijo kart ali pa se prepustili seksu brez motečih pogledov v vzvratnem ogledalu; težko, da se kateremu vizionarju ni utrnila ideja o mobilnih luksuznih bordelih. Pokrajina, skozi katero bo vozil avtonomni avtomobil, ne bo vselej vredna motrenja in občudovanja, kar je že nekaj časa iz mode, tako da bodo najverjetneje podobno kot danes drajsali po svojih prenosnih napravah in nabijali igrice, morda vključno s simulacijami vožnje avtomobila.

Avtonomni roboti in zamrznjene žive podobe

Ker se z vsakim letom povečuje število prijavljenih del, se od lani štiri glavne kategorije izmenjujejo bienalno. Po lanskem programu, ki je vključeval interaktivno umetnost in kategorijo digitalnih skupnosti, sta letos prišli na vrsto hibridna umetnost ter digitalna glasba in zvočna umetnost, medtem ko kategorija računalnike animacije in filma ostaja vsakoletna stalnica. Prav v slednji je letos nagrado zlata nika v višini 10.000 evrov prejelo zelo domiselno delo z naslovom Temp Mort/Idle Times belgijske umetnice Alex Verhaest. V kompleksnem delu se avtorica s povezovanjem tradicije starih flamskih mojstrov in sodobne tehnologije loteva meja jezika, komunikacije in družbenih konvencij ter možnosti sodobnega načina pripovedovanja zgodb.

V ospredju dvodelne postavitve je družinski portret, ki ga obiskovalec aktivira s klicem telefonske številke, napisane na steni. Med zvonjenjem za mizo sedeči moški oživi, se oglasi na klic in s tem zažene dogajanje med liki, ki sedijo oziroma stojijo za podolgovato mizo v dnevni sobi. Kaj kmalu se izkaže, da ni nič tako, kot se na prvi pogled zdi – dialogi so v resnici monologi, kajti liki med rahlim premikanjem v resnici govorijo drug mimo drugega, obiskovalec pa kmalu opazi, da so podvojeni na levo in desno polovico mize, sredi katerih s povešenim pogledom stoji edini med njimi, ki molči in ki ga avtorica označi kot pripovedovalca zgodbe, kar pomeni, da se družinski scenarij morda dogaja v njegovi glavi. Podvojena sočasnost zajema čas prej in po tem, med katerima ločnico predstavlja odsotni oče, ki je napravil samomor. Vse izrečeno se vrti okoli tragičnega družinskega dogodka, ki ga nihče od njih ne ubesedi in ga je mogoče razumeti zgolj kontekstualno. Tableau vivant (živa slika) tako predstavlja družinsko tihožitje nemožne komunikacije, ki jo dopolnjujejo na stranski steni obešene digitalne podobe posamičnih družinskih članov, katerih mir motijo leteči insekti, in v skledo položenega sadja na mizi, med katerim počasi drsi srebrno telo kače.

Podobno kot se ta računalniško animirana postavitev dotika interaktivne umetnosti, se dotika hibridne umetnosti zvočna postavitev, ki je zlato niko prejela v kategoriji digitalne glasbe in zvočne umetnosti. Japoncu Nelu Akamacuju se je ideja utrnila med obiskom templja v bližini Kjota, kjer je med vejami košate smreke prisluhnil suikinkucuju, vodnemu zvočnemu elementu japonskih vrtov. Gre za v zemljo vkopane kovinske posode, v katere skozi odprtine kaplja voda in ustvarja zvočnost, podobno japonskemu brenkalu koto. Akamacu je suikinkucu povezal z zemeljskim magnetizmom (chijiki) in projekt, ki ozvočuje nevidno, naslovil Chijikinkutsu. Ta sestoji iz niza steklenih kozarcev, napolnjenih z vodo, v katerih lebdijo predhodno namagnetene šivanke, na zunanje strani kozarcev pa so pritrjene med seboj povezane bakrene tuljave. Elektrika, ki priteka skozi tuljave, ustvari magnetno polje, zaradi česar se šivanke tuljavi približajo, ob trku s steklom pa prostor napolni nežno zvenenje. Avtor, zanimivo, ni uporabil visoke tehnologije, ampak je v subtilno instalacijo domiselno povezal tradicionalno japonsko doživljanje narave in zemeljski magnetizem.

V kategoriji hibridna umetnost je zlato niko prejel mehiški umetnik Gilberto Esparza, ki je pred leti iz odpadnega materiala izdeloval robotke – urbane parazite in jih nameščal na urbane električne vode. Urbani paraziti so povsem avtonomno lezli po električnih vodih in kablih ter se »prehranjevali« z električno energijo in se opremljeni s senzorji spretno izmikali rokam in napravam, ki so jih nameravale odstraniti. V projektu Nomadske rastline je izdelal robota, ki je gostil žive rastline in mikroorganizme. Ko so rastline postale žejne, je avtonomni robot odracal do bližnje kontaminirane reke in se napojil z vodo. Njegove mikrobne gorivne celice so odpadne biološke snovi v vodi pretvorile v energijo in vodo prečistile, ki jo je robot nato razpršil po rastlinah.

Nagrajeni projekt Plantas Autofotosintéticas pa je zasnovan kot hibriden samoregulativni mehansko-organski ekosistem, ki v hidravlično mrežo povezuje ducat stranskih modulov z osrednjim zbiralnikom in s tem ustvarja razmere za homeostatično sobivanje različnih bioloških vrst, od bakterij, alg do vodnih rastlin. V modularnih mikrobnih gorivnih celicah se razvijajo v onesnaženi vodi živeče kolonije bakterij, katerih metabolizem proizvaja elektriko in izboljšuje kakovost vode. Elektrika, ki jo bakterije ustvarjajo med presnovo, se sprosti kot fluorescentna svetloba, ki omogoča fotosintezo vodnim rastlinam v osrednjem zbiralniku in s tem dokonča njihov metabolni proces. Ko je organski material v modularnih mikrobnih enotah povsem porabljen, elektronski omrežni nadzor v module pošlje odpadne produkte, ki jih ustvarjajo rastline v osrednjem ekosistemu, s čimer se proces nenehno samoobnavlja. O širši uporabi tega sistema se Gilberto Esparza že dogovarja z raziskovalnimi centri, ki se spopadajo s čiščenjem zelo onesnaženih mehiških rek.

V zanki z drugim

Letošnjo Ars electronico je zaznamovala tudi močna slovenska udeležba. Jurij Krpan, umetniški vodja Galerije Kapelica, je bil eden od petih članov žirije v kategoriji hibridna umetnost, Galerija Kapelica pa je vključena v mrežo European Digital Art and Science, katerih članici sta tudi Cern in ESO (Evropska organizacija za raziskave na južni polobli) in ki od letos podeljuje umetniške rezidence v observatoriju v Čilu.

V festivalski program so bili vključeni trije projekti slovenskih umetnic in njihovih sodelavcev, katerim skupna je raziskava odnosa med človekom in njegovim nečloveškim drugim, projekta PSX Consultancy in Myconnect pa sta v kategoriji hibridna umetnost prejela tudi častni omembi.

Špela Petrič je poleg Pei-Ying Lin, Dimitriosa Stamatisa in Jasmine Weiss soavtorica projekta PSX Consultancy, v katerem se lotevajo človeškega odnosa rastlin. Gre za nekakšno seksualno svetovalnico, v kateri so rastline postavljene v vlogo klientov, ki tarnajo o svojih reproduktivnih težavah, ki jih izkušajo kot sobne rastline. Vsaka težava je obravnavana posamično, avtorji pa svojim klientkam pomagajo z dizajniranimi »spolnimi pripomočki«, kot so na primer pripomočki za privabljanje insektov. Hibridna raziskava primerjav med rastlinskimi in človeškimi reproduktivnimi strategijami je bolj kot rastlinam namenjena postantropocentričnemu etičnemu diskurzu, pri čemer pa so avtorji izhajali tudi iz poznavanja rastlinske fiziologije, razmnoževanja in ekologije.

V projektu Myconnect so se Saša Spacal, Mirjan Švagelj in Anil Podgornik odnosa bioloških vrst lotili skozi povezavo med človekom in gobami, konkretno micelijem, in med njima ustvarili informacijsko zanko. Obiskovalec je legel v komoro in se prek senzorja, pritrjenega na telo, z micelijem povezal v krog, skozi katerega je do micelija stekla informacija o obiskovalčevem srčnem utripu. Micelij je kot električni prevodnik to informacijo v obliki zvočnih, vizualnih in čutnih sprememb z zamikom poslal nazaj k obiskovalcu, kar je povratno vplivalo na njegov srčni utrip, ta nova, predrugačena informacija pa je nato znova odpotovala k miceliju.

V program The Future Catalyst pa je bil umeščen projekt M K-9 topologija: Ecce canis (Glej, pes) Maje Smrekar, ki je bil pred letom premierno predstavljen v Galeriji Kapelica. V njem se avtorica skozi biološko in humanistično perspektivo loteva razlogov in posledic, ki so povezale človeka in volka, ki je skozi njuno sobivanje postal pes. Razstava vključuje podolgovat brlog v obliki roga, v katerega se splazi obiskovalec in kjer globoko v špici brli oranžna svetloba, ki spominja na prva človeška ognjišča; da je volk postal pes, je moral premagati tudi strah pred ognjem. Ko se obiskovalec brlivki približa, sproži na tleh nameščen mehanizem, ki v stekleno posodico izbrizga serotonin, izoliran iz trombocitov Maje in njenega psa Byrona, kar obiskovalec lahko zavoha, ko nos primakne k stekleni niši. Ob brlogu je predstavljena tudi laboratorijska destilacija človeškega in pasjega serotonina, ki pomeni enega ključnih molekularnih mehanizmov obeh vrst, na osnovi katerega drug drugega tolerirata.

Morda celo bolj zapleten od odnosa med človekom in psom je odnos med umetnikom in znanstvenikom. Slednjega je v pogovoru o izzivih umetnosti in tehnologije izpostavil Jurij Krpan. Četudi se oboji lotevajo temeljnih vprašanj, kdo smo, od kod smo in kam gremo, so njihovi pristopi različni. Medtem ko gre v znanosti za produkcijo vedenja, gre v umetnosti za produkcijo pomena. In najsi med umetniki in znanstveniki obstaja še tako močna obojestranska inspiracija, ta odnos ni nikdar enostaven. Lahko gre za zlorabo s strani umetnikov, ki enostavno uporabijo ekspertize in orodja, ki jim jih znanstveniki priskrbijo in omogočijo, lahko pa znanstveniki umetnike inštrumentalizirajo za vizualizacijo in privlačno posredovanje svojih dognanj. In tako kot so umetniki lahko kritični do znanstvenih dognanj in njihove uporabe v družbi, tako so, dodajmo, znanstveniki lahko odklonilni do umetnikov, ki se potikajo po njihovem območju.

Vendar pa je obojim lahko skupna drža, ki je bistveno drugačna od varne in preverjene kulture ter tendence kreativnih industrij, po kateri naj bi bilo smiselno zgolj tisto, kar je uporabno in je mogoče zapakirati in postaviti na trg. Prav na slednje je na okrogli mizi opozoril fizik Michael Doser, ki je kot raziskovalec zaposlen v Cernu, o obstoju in delovanju katerega glas ljudstva pogosto ugotavlja, da gre za nepotrebno trošenje denarja za raziskovanje nečesa, kar nas tako ali tako presega in česar ne bomo nikdar razumeli, zato bi veljalo ta denar nameniti koristnejšim rečem. In ob tem pozablja oziroma sploh ne ve, da je prav Cern med drugim rojstni kraj svetovnega spleta, do katerega pa je bila pot dolga, pogosto zavita in se je nemalokrat kazala kot brezpotje. Znanstvena in umetniška ustvarjalnost neizogibno vključuje tako vztrajnost kot tveganje. Če v procesu ne padeš, pravi Michael Doser, to pomeni, da je prelahko. Zato je treba tvegati in se pognati v prazen prostor – ne glede na vse.