Kdo sedi za volanom, če to ni šofer?
Zdi se, da tehnologija napreduje počasneje od napovedi.
Odpri galerijo
Umetna inteligenca v avtonomnih vozilih bo morala sprejemati tudi precej usodne odločitve. FOTO: Shutterstock
V ZDA, natančneje v Phoenixu v zvezni državi Arizona, je Googlovo hčerinsko podjetje Waymo nedavno začelo ponujati taksi storitev waymo one, katere posebnost so vozila brez šoferja. Za potnike je zadeva na prvi pogled enaka, kot je uporaba bolj modernih taksi služb. Vožnjo naročimo prek aplikacije, ta obenem tudi oceni, kakšen bo strošek vožnje, in če se strinjamo, nas bo čez nekaj minut pričakal napol znanstvenofantastični prevoz.
Prihodnost je torej tu. Toda če smo dlakocepski, ni čisto tako. Waymovi taksiji so dobesedno vzeto zares brez šoferja, a v njih se vseeno pripelje človeško bitje, ki sedi na šoferjevem sedežu, vendar se, najverjetneje iz piarovskih razlogov, imenuje nadzornik vozila. Čeprav so bili prvi prototipi brez volana, ga njihovi taksiji zdaj imajo, prav tako pripadajoča pedala, če bi v sili moral znova poprijeti človek. Območje, kjer Waymova storitev deluje, je omejeno na približno 250 kvadratnih kilometrov, gre pa za cestno omrežje, ki so ga robotaksiji v zadnjih štirih letih med preizkušanjem dodobra spoznali. In, nenazadnje, takšnega taksija ne more poklicati vsakdo, temveč le štiristo izbrancev, imenovanih early riders, ki so sodelovali že na prejšnjih testiranjih.
Skratka, zdi se, da tehnologija avtonomnih vozil vseeno ne napreduje tako strmo, kot nam v svojih nagovorih rade dajo vedeti vrhovne glave podjetij, ki tekmujejo za primat na tem področju. In teh ni malo. Waymu pri razvoju namreč tesno sledijo Ford, General Motors, Tesla Uber, Mercedes … Za zdaj poznamo šest stopenj avtonomnosti z oznakami od 0 do 5, pri čemer ničla označuje človeškega voznika, ki ima poln nadzor na vozilom, petica pa popolno avtonomnost. Teslin autopilot je tako ocenjen na drugo stopnjo, Waymo, ki je z razvojem prišel najdlje, vozila preizkuša na četrti.
Rutiniranim človeškim voznikom se upravljanje avtomobila zdi trivialno opravilo, a zahteva kar nekaj znanja in izkušenj, zbranost in hitro odzivanje. Naši možgani pač zmorejo marsikaj pretehtati samodejno. Denimo, da bo zelena luč na semaforju kmalu ugasnila, da bo kolesar morda zavil s pločnika na prehod za pešce ali pa da otrokom, ki se igrajo ob cestišču, lahko vsak trenutek pobegne žoga. Za nas je samoumevno, da se nekatere stvari, recimo pešci, premikajo, druge, recimo hidranti in ulične svetilke, pa so statične. Za umetne možgane in strojno učenje pa je vse to zelo zahtevna naloga.
V samodejnih vozilih morajo vlogo človeških čutil in možganov prevzeti tipala in procesorji, zato je karoserija že na zunaj prepoznavna po veliki količini dodatne opreme. Poleg radarja in večjih kamer – ki jih najdemo tudi že na običajnih vozilih – je tu še lidar: naprava, ki s pulzirajočimi laserskimi curki sproti izdeluje 3D-podobo okolice. Vsem tem podatkom se pridružijo še tisti, ki jih vozilo po podatkovni povezavi prejme iz oblaka, denimo zemljevidi, podatki o vremenu, stanju podlage in o drugih avtonomnih vozilih v okolici. Vse to obdelajo računalniški algoritmi, rezultat pa je podlaga za naslednji korak v prometu.
Zdi se, da je vse popolno in da se napake skorajda na morejo zgoditi. Vendar ni tako. Uber je na začetku leta začasno ustavil preizkušanje, potem ko je njihov avto, v katerem je bil tudi varnostni šofer, brez zaviranja trčil v kolesarko, ta pa se je tako hudo poškodovala, da je umrla. To ni edini tak primer: avtonomna vozila so doslej zakrivila štiri smrtne žrtve, poleg Uberjevega so se na zatožni klopi trikrat znašla še Teslina vozila. Manjših nesreč se je pripetila cela kopica, a pri teh je večinoma šlo za nalet od zadaj, po krivdi nepazljivega človeškega voznika.
To je naslednji problem: avtonomna vozila bi veliko lažje opravljala svoje delo v okolju samih takšnih vozil, s katerimi bi bila povezana s sistemom V2V (vehicle-to-vehicle), kar bi pomagalo usklajevati njihovo ravnanje v kritičnih trenutkih. Zato med preizkušanji večinoma vozijo po manj prometnih predmestjih, nikomur pa se ne sanja, kako se bodo nekoč obnesla v okoljih z bolj specifičnimi navadami voznikov. Ste kdaj vozili po Italiji ali Rusiji? V resnici se bodo človeški šoferji tudi pri nas v neoznačenem križišču enakovrednih cest o prednosti sporazumeli z mahanjem in pobliskavanjem luči, torej z znaki, ki jih še tako pameten stroj ne bo prepoznal.
In potem, čisto konkretno: tisti, ki so storitev waymo one te dni preizkusili, poročajo, da njihovi taksiji slabo ločijo skupino ljudi od posameznika. Težave imajo z nezavarovanim zavijanjem v levo, torej zavijanjem, ko na semaforju gori samo zelena luč, ne pa zelena puščica. Zagate jim povzroča še vključevanje v promet, prav tako združevanje dveh ali več voznih pasov. Povrhu vsega se človeškim voznikom zdijo grozljivo obotavljivi in počasni.
Dodajmo vsemu temu še vreme. Ni naključje, da trenutna testiranja potekajo v Kaliforniji in Arizoni, kjer je običajno vse leto vroče in sončno. Povsem drugače je v krajih, ki ležijo bližje zemeljskima poloma. Hudi nalivi, sneženje in podobne nevšečnosti močno načnejo zmožnosti prej omenjenih tipal. Ena od smrtnih nesreč se je zgodila, ker teslini senzorji v močni sončni svetlobi niso zaznali bele prikolice tovornjaka, ki je vozilu prekrižal pot.
Končno so tu še čisto simpatične težave. Kar zadeva način vožnje, so samovozeča vozila zasnovana kot vzor uglajenosti, potrpežljivosti in predvidljivosti. Kadar so v dvomu, raje počakajo. In človeški šoferji so se kaj hitro naučili izrabljati te lastnosti in jih s kančkom agresivnosti že znajo spraviti izpod nog.
S tem, ko bodo po naših ulicah blodila vozila po navodilih umetne pameti, se neizogibno bliža čas, ko bodo morala sprejemati tudi precej usodne odločitve. Denimo, kako naj se odločijo v kritičnem trenutku, ko zaviranje ni več mogoče. Naj avto, ki po nakupih pelje srečno družino, svojo kinetično energijo usmeri v skupino upokojencev ali v mlado mater z vozičkom? Ali pa morda čez pečino zapelje v prepad? Nekdo bo nekoč moral izdelati algoritme, ki bodo podlaga za take odločitve. Raziskovalci medijskega laboratorija na Mitu so pred časom končali štiri leta trajajočo raziskavo, poimenovano Moralni stroj, v kateri so anketiranci odgovarjali na prav takšna vprašanja. Izkazalo se je, da bi ljudski glas raje reševal človeška življenja kot pa živalska. Kar se večini zdi še kar logično. A v nadaljevanju stvari postanejo precej bolj hladnokrvne: tako bi raje prizanesli mlajšim na račun starejših ter tistim, ki v družbi kotirajo nekoliko višje, v primerjavi z ljudmi z družbenega dna. In tako naprej. Skratka, govorimo o algoritmih, ki bodo morda usodno razsojali o življenju in smrti.
Za nove tehnologije pogosto velja Amarov zakon. Futurist Roy Amara je namreč potuhtal pravilo, ki pravi, da nove tehnologije običajno na začetku prehitro pograbimo in precenjujemo, nato pa pride obdobje skepse, ki običajno traja predolgo. To se je na primer pravkar zgodilo kriptovalutam. Ko pa bo tehnologija avtonomne vožnje nekoč dozorela, se utegne primeriti, da bomo ljudje postali moteč in predvsem nepredvidljiv dejavnik v prometu. Pač, računalnik za volanom se ne utrudi, ni čustven ali nepozoren. Zato imajo poklicni šoferji deloma prav, ko se bojijo za prihodnost svojega poklica. A kot se stvari slikajo v praksi, je ta dan še daleč.
Prihodnost je torej tu. Toda če smo dlakocepski, ni čisto tako. Waymovi taksiji so dobesedno vzeto zares brez šoferja, a v njih se vseeno pripelje človeško bitje, ki sedi na šoferjevem sedežu, vendar se, najverjetneje iz piarovskih razlogov, imenuje nadzornik vozila. Čeprav so bili prvi prototipi brez volana, ga njihovi taksiji zdaj imajo, prav tako pripadajoča pedala, če bi v sili moral znova poprijeti človek. Območje, kjer Waymova storitev deluje, je omejeno na približno 250 kvadratnih kilometrov, gre pa za cestno omrežje, ki so ga robotaksiji v zadnjih štirih letih med preizkušanjem dodobra spoznali. In, nenazadnje, takšnega taksija ne more poklicati vsakdo, temveč le štiristo izbrancev, imenovanih early riders, ki so sodelovali že na prejšnjih testiranjih.
Skratka, zdi se, da tehnologija avtonomnih vozil vseeno ne napreduje tako strmo, kot nam v svojih nagovorih rade dajo vedeti vrhovne glave podjetij, ki tekmujejo za primat na tem področju. In teh ni malo. Waymu pri razvoju namreč tesno sledijo Ford, General Motors, Tesla Uber, Mercedes … Za zdaj poznamo šest stopenj avtonomnosti z oznakami od 0 do 5, pri čemer ničla označuje človeškega voznika, ki ima poln nadzor na vozilom, petica pa popolno avtonomnost. Teslin autopilot je tako ocenjen na drugo stopnjo, Waymo, ki je z razvojem prišel najdlje, vozila preizkuša na četrti.
Človek proti stroju
Rutiniranim človeškim voznikom se upravljanje avtomobila zdi trivialno opravilo, a zahteva kar nekaj znanja in izkušenj, zbranost in hitro odzivanje. Naši možgani pač zmorejo marsikaj pretehtati samodejno. Denimo, da bo zelena luč na semaforju kmalu ugasnila, da bo kolesar morda zavil s pločnika na prehod za pešce ali pa da otrokom, ki se igrajo ob cestišču, lahko vsak trenutek pobegne žoga. Za nas je samoumevno, da se nekatere stvari, recimo pešci, premikajo, druge, recimo hidranti in ulične svetilke, pa so statične. Za umetne možgane in strojno učenje pa je vse to zelo zahtevna naloga.
Googlov waymo nima voznika le, če zamižimo na obe očesi. FOTO: Google
V samodejnih vozilih morajo vlogo človeških čutil in možganov prevzeti tipala in procesorji, zato je karoserija že na zunaj prepoznavna po veliki količini dodatne opreme. Poleg radarja in večjih kamer – ki jih najdemo tudi že na običajnih vozilih – je tu še lidar: naprava, ki s pulzirajočimi laserskimi curki sproti izdeluje 3D-podobo okolice. Vsem tem podatkom se pridružijo še tisti, ki jih vozilo po podatkovni povezavi prejme iz oblaka, denimo zemljevidi, podatki o vremenu, stanju podlage in o drugih avtonomnih vozilih v okolici. Vse to obdelajo računalniški algoritmi, rezultat pa je podlaga za naslednji korak v prometu.
Zdi se, da je vse popolno in da se napake skorajda na morejo zgoditi. Vendar ni tako. Uber je na začetku leta začasno ustavil preizkušanje, potem ko je njihov avto, v katerem je bil tudi varnostni šofer, brez zaviranja trčil v kolesarko, ta pa se je tako hudo poškodovala, da je umrla. To ni edini tak primer: avtonomna vozila so doslej zakrivila štiri smrtne žrtve, poleg Uberjevega so se na zatožni klopi trikrat znašla še Teslina vozila. Manjših nesreč se je pripetila cela kopica, a pri teh je večinoma šlo za nalet od zadaj, po krivdi nepazljivega človeškega voznika.
Nepredvidljivi ljudje nočna mora za avtomate
To je naslednji problem: avtonomna vozila bi veliko lažje opravljala svoje delo v okolju samih takšnih vozil, s katerimi bi bila povezana s sistemom V2V (vehicle-to-vehicle), kar bi pomagalo usklajevati njihovo ravnanje v kritičnih trenutkih. Zato med preizkušanji večinoma vozijo po manj prometnih predmestjih, nikomur pa se ne sanja, kako se bodo nekoč obnesla v okoljih z bolj specifičnimi navadami voznikov. Ste kdaj vozili po Italiji ali Rusiji? V resnici se bodo človeški šoferji tudi pri nas v neoznačenem križišču enakovrednih cest o prednosti sporazumeli z mahanjem in pobliskavanjem luči, torej z znaki, ki jih še tako pameten stroj ne bo prepoznal.
In potem, čisto konkretno: tisti, ki so storitev waymo one te dni preizkusili, poročajo, da njihovi taksiji slabo ločijo skupino ljudi od posameznika. Težave imajo z nezavarovanim zavijanjem v levo, torej zavijanjem, ko na semaforju gori samo zelena luč, ne pa zelena puščica. Zagate jim povzroča še vključevanje v promet, prav tako združevanje dveh ali več voznih pasov. Povrhu vsega se človeškim voznikom zdijo grozljivo obotavljivi in počasni.
Avtonomna vozila so »zakrivila« štiri smrtne žrtve: eno Uberjevo, tri pa Teslina vozila. FOTO: Ng Han Guan/AP
Dodajmo vsemu temu še vreme. Ni naključje, da trenutna testiranja potekajo v Kaliforniji in Arizoni, kjer je običajno vse leto vroče in sončno. Povsem drugače je v krajih, ki ležijo bližje zemeljskima poloma. Hudi nalivi, sneženje in podobne nevšečnosti močno načnejo zmožnosti prej omenjenih tipal. Ena od smrtnih nesreč se je zgodila, ker teslini senzorji v močni sončni svetlobi niso zaznali bele prikolice tovornjaka, ki je vozilu prekrižal pot.
Končno so tu še čisto simpatične težave. Kar zadeva način vožnje, so samovozeča vozila zasnovana kot vzor uglajenosti, potrpežljivosti in predvidljivosti. Kadar so v dvomu, raje počakajo. In človeški šoferji so se kaj hitro naučili izrabljati te lastnosti in jih s kančkom agresivnosti že znajo spraviti izpod nog.
Etične zagate
S tem, ko bodo po naših ulicah blodila vozila po navodilih umetne pameti, se neizogibno bliža čas, ko bodo morala sprejemati tudi precej usodne odločitve. Denimo, kako naj se odločijo v kritičnem trenutku, ko zaviranje ni več mogoče. Naj avto, ki po nakupih pelje srečno družino, svojo kinetično energijo usmeri v skupino upokojencev ali v mlado mater z vozičkom? Ali pa morda čez pečino zapelje v prepad? Nekdo bo nekoč moral izdelati algoritme, ki bodo podlaga za take odločitve. Raziskovalci medijskega laboratorija na Mitu so pred časom končali štiri leta trajajočo raziskavo, poimenovano Moralni stroj, v kateri so anketiranci odgovarjali na prav takšna vprašanja. Izkazalo se je, da bi ljudski glas raje reševal človeška življenja kot pa živalska. Kar se večini zdi še kar logično. A v nadaljevanju stvari postanejo precej bolj hladnokrvne: tako bi raje prizanesli mlajšim na račun starejših ter tistim, ki v družbi kotirajo nekoliko višje, v primerjavi z ljudmi z družbenega dna. In tako naprej. Skratka, govorimo o algoritmih, ki bodo morda usodno razsojali o življenju in smrti.
Voznikom se še ni treba bati za službo
Za nove tehnologije pogosto velja Amarov zakon. Futurist Roy Amara je namreč potuhtal pravilo, ki pravi, da nove tehnologije običajno na začetku prehitro pograbimo in precenjujemo, nato pa pride obdobje skepse, ki običajno traja predolgo. To se je na primer pravkar zgodilo kriptovalutam. Ko pa bo tehnologija avtonomne vožnje nekoč dozorela, se utegne primeriti, da bomo ljudje postali moteč in predvsem nepredvidljiv dejavnik v prometu. Pač, računalnik za volanom se ne utrudi, ni čustven ali nepozoren. Zato imajo poklicni šoferji deloma prav, ko se bojijo za prihodnost svojega poklica. A kot se stvari slikajo v praksi, je ta dan še daleč.
