Prepoznali bodo vzorce, čustva in telesno govorico pešca
Dr. Jaka Sodnik iz ljubljanske fakultete za elektrotehniko je vodja projekta, s katerim bodo poskušali vplivati na razvoj umetne inteligence.
Odpri galerijo
Dr. Jaka Sodnik: »Pri Cadillacu so rekli, da avtonomnih vozil ne bodo imeli, ker gre pri njihovi znamki za to, da ljudje uživajo v vožnji.« FOTO: Leon Vidic
O tem, da bodo avtomobili nekoč vozili sami, brez voznika, zadnji dve leti pišemo zelo veliko. Morda preveč, a o tem bo sodil čas. Avtomobilska industrija vlaga v razvoj te tehnologije ogromno denarja in ves čas napoveduje različne projekte, sodelovanja, bodisi znotraj svojega kolesja bodisi z zunanjimi partnerji, ki imajo tukaj tudi svoje, drznejše poglede. Tokrat je bil naš sogovornik na to temo dr. Jaka Sodnik, izredni profesor na Fakulteti za elektrotehniko Univerze v Ljubljani. Vodi projekt, v katerem razvijajo simulacijo vožnje, namenjeno pridobitvi čim večje količine podatkov, s katerimi želijo povečati varnost cestne infrastrukture, a tudi vplivati na razvoj avtonomne vožnje in umetne inteligence.
Projekt je nekje blizu dveh tretjin, končali smo prototip in do decembra opravili prvi del množičnega testiranja. Pri njem sodelujemo Zavarovalnica Triglav, Fakulteta za elektrotehniko Univerze v Ljubljani, Filozofska fakulteta Univerze v Mariboru, zagonsko podjetje Nervteh in vaš novinarski kolega Andrej Brglez. Glede na to, da je bila raziskava anonimna, so nam udeleženci pred testiranjem zaupali različne podatke o svojih voznih navadah, škodni zgodovini, koliko časa imajo vozniški izpit, kje vozijo, ali imajo otroke, so poročeni … Teh anket je bilo sicer še več, približno 500 odgovorov smo dobili, k čemur smo dodali še vprašalnik Filozofske fakultete Univerze v Mariboru, konkretno njihovega oddelka za psihologijo, o osebnosti anketiranega, v tem primeru gre za psihološki profil, kako se bo nekdo odzval v neki situaciji.
Nato smo povabili 60 voznikov, da so na simulatorju odvozili skozi scenarij, s katerim poskušamo posnemati osnovne vzorce obnašanja za volanom. Po eni strani jim damo povratno informacijo, da vedo, kako vozijo, kje so njihove slabosti in možnosti za izboljšave, hkrati pa je za nas zanimiv drugi del, da na nadzorovan način, v enakih razmerah, dobimo podatke o vozniških reakcijah v različnih, predvsem kritičnih situacijah. Zdaj imamo kar veliko bazo podatkov, ki jih obdelujemo, in upam, da bomo v mesecu ali dveh dobili določene izsledke. Cilj raziskave je, da bomo poskušali napovedati, kako se bo posameznik v prihodnosti obnašal, kje so šibke točke, ki bi lahko pripeljale do nesreče.
Glede podatkov res težko kaj rečem, saj se analiza šele začenja, opravili pa jo bodo različni profili znanstvenikov, psihologi, statistiki. Raziskave bodo šle v smeri umetne inteligence, da bomo še izboljšali delovanje simulatorja in bo bolje napovedal neko tveganost posameznikov.
Zavarovalnica ima jasno idejo – izboljšati simulator, da bo še bolje napovedal tveganost posameznika, npr. pri mladih voznikih. Drugi segment so flote voznikov. Res smo bili v Londonu pri Uberju, izbor njihovih najboljših voznikov je šel skozi naš sistem in posredovali smo jim svoje ugotovitve; Uber zanima, kakšne so lastnosti njihovih voznikov, kakšne naj bi najemali oziroma v čem bi se sedanji lahko še izboljšali. Tretja stvar pa je, da želimo z uporabo strojnega učenja in umetne inteligence te vzorce – od poklicnih do mladih voznikov – matematično opisati, jih modelirati in ustvariti njihove digitalne klone, ki bodo posnemali nekega posameznega voznika. Posameznika posnamemo, vidimo, kako vijuga, kakšen je njegov reakcijski čas, kakšno varnostno razdaljo ohranja, kolikokrat se odloči, da bo zapeljal v rumeno luč, kolikokrat se bo v tem primeru ustavil … Te človeške lastnosti lahko apliciramo na samovozeči avtomobil, da se bo obnašal bolj kot živo bitje. Seveda pa je naslednje vprašanje, zakaj bi to hoteli.
Posnemanje človeških voznikov najbrž res ni nekaj, kar bi želeli videti na cesti, saj naj bi samovozeči avtomobili v vseh pogledih vozili bolje od ljudi. Tu gre predvsem za obdobje sobivanja obeh vrst vozil, ko bo avtonomno vozilo moralo razumeti in prepoznati različne človeške vzorce in po možnosti tudi napovedati njihove reakcije. Kloniranje človeškega obnašanja in različnih profilov voznikov pa je izredno zanimivo predvsem v simuliranem okolju, v katerem se trenutno opravi več kot 90 odstotkov vseh testov senzorjev in algoritmov na podlagi umetne inteligence. Pri testih se torej lahko posamezen algoritem preizkusi v interakciji s temi kloni in oceni, kako dobro se odziva na nepredvidljive človeške vozniške reakcije in navade.
To je zanimivo vprašanje. Samovozeči in običajni avtomobili bodo kar nekaj časa sobivali, se mešali in potem bodo morda ostali le prvi. Pešci pa bodo vselej tu. Veliko se dela v smeri, da bo avtomobil prepoznal neke vzorce, čustva, telesno govorico in po drugi strani pešcu tudi sporočil, da ga je opazil, da ga razume ali da, nasprotno, ne ve, kaj želi storiti. To se že na veliko preizkuša z zvočnimi, svetlobnimi signali, denimo, da avtomobil s svojimi svetili pešcu izriše zebro, mu da znak, videl sem te, ali pa ga nekako vpraša, kaj hoče narediti.
Vse nesreče, vsaj, kar vemo iz poročil, se zgodijo na testiranju pri podjetjih, ki se tega področja lotevajo zelo drzno, morda preveč drzno. Razkrilo se je, da Uberjev voznik ni gledal na cesto … Iz krogov klasične avtomobilske industrije, ki prav tako testirajo na cestah, takšne slabe novice doslej ni bilo. Ta podjetja so previdnejša. Sam sem že videl vozila BMW-ja ali Volkswagna, ki vozijo sama pri hitrosti 130 km/h, pa sta v njih po dva nadzornika.
Pojem umetne inteligence obstaja že dolgo, a ta veda je mirovala, ker ni bilo dovolj podatkov. O tem, kako se nova tehnika vpelje, kako jo standardizirati, pa ima klasična industrija več znanja. Govori se, da bo odločilni preizkus, ali gre tak avtomobil lahko na cesto ali ne, opravil nekdo tretji, ustanovljen na novo.
To zelo skače sem in tja. Po zadnjih razpravah, v katerih sem sodeloval, se zdi, da končna peta stopnja avtonomne vožnje na vseh cestah morda sploh ni realna. Govorimo torej o četrti stopnji, kar pomeni popolno avtonomnost, a pri infrastrukturi, ki to omogoča. Ko bo avtomobil zunaj te udobne infrastrukture, se bo morda moral ustaviti, ali ga bomo morali voziti sami ali pa bodo to počeli usposobljeni teleoperaterji, ki bodo skrbeli za oddaljeno vodenje vozila po koridorju, ki ne omogoča avtonomne vožnje, pozneje pa bo avtomobil znova nadaljeval sam.
Da je to preveč dinamično, neobvladljivo okolje. Umetna inteligenca se bo sicer ves čas učila, a v prometu se vedno lahko zgodi kaj čisto novega. Je pa to morda malce preveč pesimističen pogled.
Eno je, da se prebivalstvo stara, gre za marketinški vidik, da bi se lahko ljudje dlje vozili. Druga stvar je, da je res treba zmanjšati število avtomobilov na cesti. To je povezano z zamislijo o deljenju avtomobilov, v kar avtomobilska podjetja ogromno vlagajo, da pač ne bomo več lastniki avtomobila. Ti načrti gredo z roko v roki z načrti o avtonomni vožnji. Po zadnjih raziskavah se zaupanje do avtonomnih avtomobilov sicer povečuje, a še vedno le 60 odstotkov vprašanih pritrdi, da bi jih imeli. Lani sem bil na enem od kongresov na temo avtonomne vožnje v Silicijevi dolini v ZDA. Pri Cadillacu so takrat rekli, da avtonomnih vozil ne bodo imeli, ker gre pri njihovi znamki za to, da ljudje uživajo v vožnji.
Pri nas smo še vedno zelo lastniško vezani na avtomobil, ki je statusni simbol, in si po mojem mnenju tega sploh ne predstavljamo. Morda je pri mladih drugače, a vseeno mislim, da bo tak koncept deljenja prevoza pri nas težko vpeljati.
Morda so konkretno za Ljubljano namesto tega primernejše predvsem alternativne vrste prevoza, kot je izposoja koles, skirojev … Nečesa, kar si izposodiš in nekje pustiš in se ne ukvarjaš z nikakršnim deljenjem.
Že zdaj smo povezani z AV Living labom, kjer uvodoma pripravljamo virtualno različico celotnega BTC-ja, se pa pogovarjamo tudi drugje. Na Madžarskem nastaja takšen center, celotno mini mesto z infrastrukturo, predmestjem, avtocestnimi križi, bližino avtoceste; tam je nastal poseben konzorcij, celo posebna fakulteta, ki naj bi izobraževala potrebne inženirje. Z njimi že sodeluje Univerza v Mariboru.
To sicer ni naša tema. Lahko pa omenim primer poskusa, ki ga je izvajal nemški profesor Gordon Pipa z univerze v Osnabrücku. V virtualnem okolju se je moral človek odločiti med dvema slabima možnostma, koga bi povozil, če že mora nekoga. Testirali so jih več sto in po neki formuli izračunali, kaj je ljudem več vredno. Vedno je bilo mlado življenje pred starim, najvišje je bila postavljena mlada nosečnica, najnižje starejši moški. Je pa zanimivo, da so v manjšem vzorcu pri tem testu sodelovali tudi Kitajci. Pri njih so vrednote obratne in ima starejši človek prednost pred mlajšim.
Kakor ste za naš časopis dejali lani sredi leta, je vaš simulator vožnje v fazi med 2.0 in 3.0? Kako daleč pa ste prišli od takrat?
Projekt je nekje blizu dveh tretjin, končali smo prototip in do decembra opravili prvi del množičnega testiranja. Pri njem sodelujemo Zavarovalnica Triglav, Fakulteta za elektrotehniko Univerze v Ljubljani, Filozofska fakulteta Univerze v Mariboru, zagonsko podjetje Nervteh in vaš novinarski kolega Andrej Brglez. Glede na to, da je bila raziskava anonimna, so nam udeleženci pred testiranjem zaupali različne podatke o svojih voznih navadah, škodni zgodovini, koliko časa imajo vozniški izpit, kje vozijo, ali imajo otroke, so poročeni … Teh anket je bilo sicer še več, približno 500 odgovorov smo dobili, k čemur smo dodali še vprašalnik Filozofske fakultete Univerze v Mariboru, konkretno njihovega oddelka za psihologijo, o osebnosti anketiranega, v tem primeru gre za psihološki profil, kako se bo nekdo odzval v neki situaciji.
Nato smo povabili 60 voznikov, da so na simulatorju odvozili skozi scenarij, s katerim poskušamo posnemati osnovne vzorce obnašanja za volanom. Po eni strani jim damo povratno informacijo, da vedo, kako vozijo, kje so njihove slabosti in možnosti za izboljšave, hkrati pa je za nas zanimiv drugi del, da na nadzorovan način, v enakih razmerah, dobimo podatke o vozniških reakcijah v različnih, predvsem kritičnih situacijah. Zdaj imamo kar veliko bazo podatkov, ki jih obdelujemo, in upam, da bomo v mesecu ali dveh dobili določene izsledke. Cilj raziskave je, da bomo poskušali napovedati, kako se bo posameznik v prihodnosti obnašal, kje so šibke točke, ki bi lahko pripeljale do nesreče.
»Samovozeči in običajni avtomobili bodo kar nekaj časa sobivali, se mešali in potem bodo morda ostali le prvi. Pešci pa bodo vselej tu. Veliko se dela v smeri, da bo avtomobil prepoznal neke vzorce, čustva, telesno govorico in pešcu po drugi strani sporočil, da ga je opazil, da ga razume ali da, nasprotno, ne ve, kaj želi storiti.«
Pa nam vsaj namignete, v katero smer gredo izsledki?
Glede podatkov res težko kaj rečem, saj se analiza šele začenja, opravili pa jo bodo različni profili znanstvenikov, psihologi, statistiki. Raziskave bodo šle v smeri umetne inteligence, da bomo še izboljšali delovanje simulatorja in bo bolje napovedal neko tveganost posameznikov.
Mislim si, da je osnovni cilj preizkusov vsaj za zavarovalnico dobiti podatke o kategorijah zavarovancev za škodna zavarovanja, bili pa ste tudi na avtomobilskih razstavah, v Londonu pri podjetju Uber. Kaj lahko ponudite drugim, tistim, ki razmišljajo o avtonomni vožnji?
Zavarovalnica ima jasno idejo – izboljšati simulator, da bo še bolje napovedal tveganost posameznika, npr. pri mladih voznikih. Drugi segment so flote voznikov. Res smo bili v Londonu pri Uberju, izbor njihovih najboljših voznikov je šel skozi naš sistem in posredovali smo jim svoje ugotovitve; Uber zanima, kakšne so lastnosti njihovih voznikov, kakšne naj bi najemali oziroma v čem bi se sedanji lahko še izboljšali. Tretja stvar pa je, da želimo z uporabo strojnega učenja in umetne inteligence te vzorce – od poklicnih do mladih voznikov – matematično opisati, jih modelirati in ustvariti njihove digitalne klone, ki bodo posnemali nekega posameznega voznika. Posameznika posnamemo, vidimo, kako vijuga, kakšen je njegov reakcijski čas, kakšno varnostno razdaljo ohranja, kolikokrat se odloči, da bo zapeljal v rumeno luč, kolikokrat se bo v tem primeru ustavil … Te človeške lastnosti lahko apliciramo na samovozeči avtomobil, da se bo obnašal bolj kot živo bitje. Seveda pa je naslednje vprašanje, zakaj bi to hoteli.
»Peta stopnja avtonomnosti na vseh cestah morda ni realna.«
Ali tega morda ne bi hoteli?
Posnemanje človeških voznikov najbrž res ni nekaj, kar bi želeli videti na cesti, saj naj bi samovozeči avtomobili v vseh pogledih vozili bolje od ljudi. Tu gre predvsem za obdobje sobivanja obeh vrst vozil, ko bo avtonomno vozilo moralo razumeti in prepoznati različne človeške vzorce in po možnosti tudi napovedati njihove reakcije. Kloniranje človeškega obnašanja in različnih profilov voznikov pa je izredno zanimivo predvsem v simuliranem okolju, v katerem se trenutno opravi več kot 90 odstotkov vseh testov senzorjev in algoritmov na podlagi umetne inteligence. Pri testih se torej lahko posamezen algoritem preizkusi v interakciji s temi kloni in oceni, kako dobro se odziva na nepredvidljive človeške vozniške reakcije in navade.
Zanima me nekaj zelo konkretno banalnega: bo samovozeči avtomobil recimo znal ugotoviti, ali se je nekdo, ki je v neposredni bližini prehoda za pešce, res namenil prečkati cesto ali ne?
To je zanimivo vprašanje. Samovozeči in običajni avtomobili bodo kar nekaj časa sobivali, se mešali in potem bodo morda ostali le prvi. Pešci pa bodo vselej tu. Veliko se dela v smeri, da bo avtomobil prepoznal neke vzorce, čustva, telesno govorico in po drugi strani pešcu tudi sporočil, da ga je opazil, da ga razume ali da, nasprotno, ne ve, kaj želi storiti. To se že na veliko preizkuša z zvočnimi, svetlobnimi signali, denimo, da avtomobil s svojimi svetili pešcu izriše zebro, mu da znak, videl sem te, ali pa ga nekako vpraša, kaj hoče narediti.
Kolegi iz AMZS so prikazali, kako lahko novi audi A8, če predenj stopi pešec in se voznik ne odzove, sam zavre, kar je del avtonomne vožnje. Toda dokler je v avtomobilu volan, vso odgovornost prevzema voznik. FOTO: Leon Vidic
Če se malo vrneva k Uberju. Kako gledate na njihovo lansko nesrečo s smrtnim izidom?
Vse nesreče, vsaj, kar vemo iz poročil, se zgodijo na testiranju pri podjetjih, ki se tega področja lotevajo zelo drzno, morda preveč drzno. Razkrilo se je, da Uberjev voznik ni gledal na cesto … Iz krogov klasične avtomobilske industrije, ki prav tako testirajo na cestah, takšne slabe novice doslej ni bilo. Ta podjetja so previdnejša. Sam sem že videl vozila BMW-ja ali Volkswagna, ki vozijo sama pri hitrosti 130 km/h, pa sta v njih po dva nadzornika.
Kdo pa bo tisti, ki mu bo uspel preboj na tem področju, nekaj standardiziranega za proizvodnjo – novi ali stari fantje?
Pojem umetne inteligence obstaja že dolgo, a ta veda je mirovala, ker ni bilo dovolj podatkov. O tem, kako se nova tehnika vpelje, kako jo standardizirati, pa ima klasična industrija več znanja. Govori se, da bo odločilni preizkus, ali gre tak avtomobil lahko na cesto ali ne, opravil nekdo tretji, ustanovljen na novo.
Kaj pa obrabljeno vprašanje o letnicah prihoda?
To zelo skače sem in tja. Po zadnjih razpravah, v katerih sem sodeloval, se zdi, da končna peta stopnja avtonomne vožnje na vseh cestah morda sploh ni realna. Govorimo torej o četrti stopnji, kar pomeni popolno avtonomnost, a pri infrastrukturi, ki to omogoča. Ko bo avtomobil zunaj te udobne infrastrukture, se bo morda moral ustaviti, ali ga bomo morali voziti sami ali pa bodo to počeli usposobljeni teleoperaterji, ki bodo skrbeli za oddaljeno vodenje vozila po koridorju, ki ne omogoča avtonomne vožnje, pozneje pa bo avtomobil znova nadaljeval sam.
Kaj je glavna ovira za peto stopnjo?
Da je to preveč dinamično, neobvladljivo okolje. Umetna inteligenca se bo sicer ves čas učila, a v prometu se vedno lahko zgodi kaj čisto novega. Je pa to morda malce preveč pesimističen pogled.
»Pri nas smo še vedno zelo lastniško vezani na avtomobil, ki je statusni simbol.«
Zakaj je bilo v zadnjih letih toliko napovedi, da je avtonomna vožnja prihodnost avtomobilizma?
Eno je, da se prebivalstvo stara, gre za marketinški vidik, da bi se lahko ljudje dlje vozili. Druga stvar je, da je res treba zmanjšati število avtomobilov na cesti. To je povezano z zamislijo o deljenju avtomobilov, v kar avtomobilska podjetja ogromno vlagajo, da pač ne bomo več lastniki avtomobila. Ti načrti gredo z roko v roki z načrti o avtonomni vožnji. Po zadnjih raziskavah se zaupanje do avtonomnih avtomobilov sicer povečuje, a še vedno le 60 odstotkov vprašanih pritrdi, da bi jih imeli. Lani sem bil na enem od kongresov na temo avtonomne vožnje v Silicijevi dolini v ZDA. Pri Cadillacu so takrat rekli, da avtonomnih vozil ne bodo imeli, ker gre pri njihovi znamki za to, da ljudje uživajo v vožnji.
Koliko ljudi pa res zanima deljenje avtomobilov?
Pri nas smo še vedno zelo lastniško vezani na avtomobil, ki je statusni simbol, in si po mojem mnenju tega sploh ne predstavljamo. Morda je pri mladih drugače, a vseeno mislim, da bo tak koncept deljenja prevoza pri nas težko vpeljati.
Pa je Slovenija, če odštejemo naše navade in statusne simbole, objektivno primerno okolje za vpeljavo česa takšnega?
Morda so konkretno za Ljubljano namesto tega primernejše predvsem alternativne vrste prevoza, kot je izposoja koles, skirojev … Nečesa, kar si izposodiš in nekje pustiš in se ne ukvarjaš z nikakršnim deljenjem.
»Umetna inteligenca se bo sicer ves čas učila, a v prometu se vedno lahko pojavi kaj povsem novega.«
Če se malo vrnem nazaj, imate kakšne želje, da bi svoje dejavnosti iz laboratorijskega simulatorja v navezi s kakim velikim proizvajalcem preselili v zunanje okolje, na deloma zaprt poligon?
Že zdaj smo povezani z AV Living labom, kjer uvodoma pripravljamo virtualno različico celotnega BTC-ja, se pa pogovarjamo tudi drugje. Na Madžarskem nastaja takšen center, celotno mini mesto z infrastrukturo, predmestjem, avtocestnimi križi, bližino avtoceste; tam je nastal poseben konzorcij, celo posebna fakulteta, ki naj bi izobraževala potrebne inženirje. Z njimi že sodeluje Univerza v Mariboru.
Za konec vas še vprašam o domnevni dilemi (»trolley dilemma«), ko se je v prometu treba odločiti med dvema slabima možnostma, na primer, ali naj avtonomni avtomobil povozi otroka ali zamenja pas in povozi starejšega pešca. Pri BMW-ju so mi lani dejali, da se s tem ne ukvarjajo in da avtomobil v prvi fazi razvoja ne bo sposoben etičnih odločitev.
To sicer ni naša tema. Lahko pa omenim primer poskusa, ki ga je izvajal nemški profesor Gordon Pipa z univerze v Osnabrücku. V virtualnem okolju se je moral človek odločiti med dvema slabima možnostma, koga bi povozil, če že mora nekoga. Testirali so jih več sto in po neki formuli izračunali, kaj je ljudem več vredno. Vedno je bilo mlado življenje pred starim, najvišje je bila postavljena mlada nosečnica, najnižje starejši moški. Je pa zanimivo, da so v manjšem vzorcu pri tem testu sodelovali tudi Kitajci. Pri njih so vrednote obratne in ima starejši človek prednost pred mlajšim.
