Tiskane izdaje
Vse pogostejše je vprašanje, kaj se bo zgodilo, če bo z avtonomnimi vozili kaj narobe in kdo bo kril posledice morebitnih nesreč. Proizvajalci sicer občasno suvereno zatrdijo, da bodo tehnične izzive rešili prej, kot se bodo s pravili in zakonodajo nanje odzvale države.
Verjetno doslej najbolj izstopajoča, po svoje celo hrabra, izjava o odgovornosti avtonomnih vozil je prišla iz ust predsednika švedske avtomobilske družbe Volvo Cars Hakana Samuelssona, da bo njegovo podjetje prevzelo polno odgovornost za dejanja njihovih avtomobilov, ki bodo delovali v načinu avtopilota. Kaj to konkretno pomeni, iz Volva niso pojasnili.
In kako se bo izziva lotila Slovenija? Na ministrstvu za finance, ki je – zanimivo – pri nas pristojno za to temo, pojasnjujejo, da je odgovornost za škodo, ki jo povzroči avtonomno vozilo, odvisna od stopnje avtonomnosti in vseh okoliščin škodnega dogodka. Po njihovem tudi v takšnih primerih veljajo pravila civilnega prava; če bi bila povzročitev škode posledica napake v zasnovi avtonomnega avtomobila (nepopolnega algoritma za določanje smeri vožnje ali potrebe po zaviranju), je za škodo v skladu s 155. členom obligacijskega zakonika odgovoren proizvajalec. Če pa bi bila škoda posledica krivde upravljavca vozila ali drugega udeleženca v prometu, bi uporabili 154. člen istega zakona, ki govori o odgovornosti pri nesreči, ki jo povzročijo premikajoča se vozila. Če krivde ne bi bilo mogoče pripisati nikomur, bi, ker se vozilo šteje za nevarno stvar, za škodo objektivno odgovarjal imetnik.
Kot še pojasnjujejo na ministrstvu za finance, pogoje, kdaj je neko vozilo lahko udeleženo v cestnem prometu, določa zakon o motornih vozilih. Če je lahko v prometu, zanj veljajo tudi določbe zakona o obveznih zavarovanjih v prometu. Slovenska vlada sicer še ni zaznala neposredne potrebe po ureditvi področja avtonomnih vozil. Tudi Googlova avtonomna vozila namreč, tako pojasnjujejo, v cestnem prometu sodelujejo tako, da je v njih vedno voznik, ki ima moč in dolžnost prevzeti nadzor nad vozilom, če je to potrebno. Vprašanje, kako bo država pri nas uredila tovrstni promet, torej ostaja. Glede na napovedi proizvajalcev se bo morala kmalu odločiti, ali bo izdajala posebna dovoljenja za udeležbo avtonomnih vozil v prometu, in kako bo rešila primere nezgod in škode, ki jih bodo povzročila vozila brez voznika.
Kako naj reagira vozilo, ko bočno drsi proti skupini pešcev, koga naj žrtvuje?
Avtor: Dr. Aleš Završnik, Inštitut za kriminologijo, Pravna fakulteta Univerze v Ljubljani
Ker avtonomna vozila temeljijo na algoritmih, ki osmišljajo velike količine podatkov iz vozil, cestne infrastrukture in širše okolice, sprožajo vprašanja moralnih konfliktov, in ne le vprašanja, povezana z varstvom osebnih podatkov. Kako naj reagira vozilo, ko bočno drsi proti skupini pešcev, koga naj žrtvuje? Ali naj ima ročno nastavljiv moralni kompas?
Wired je že pred časom predstavil študijo o algoritmih, ki naj se pri nesrečah odzovejo tako, da je povzročena najmanjša možna škoda. A za koga? Če avtonomno vozilo drsi in lahko izbere, naj trči v drugo vozilo znamke Volvo, saj so ti dokazno bolj varni in bo zato manj poškodovanih udeležencev? S tem bi volvo postal verjetneje tarča trkov in zato manj varen, kar bi algoritmi ustrezno popravili, zato je velikost povratne zanke (angleško: feedback loop) tako pomembna. Druga študija je opozorila, da je v bistvu vsak algoritem treba sprogramirati tako, da vanj vgradimo presojo o življenju in smrti. Kako naj ravna vozilo, ki ga zaradi ledene ceste zanaša in mora izbrati bodisi levo stran cestišča, kjer je ena oseba, bodisi drugo stran, kjer jih je pet? Po utilitaristični etiki mora algoritem izbrati levo stran cestišča in zagotoviti največjo srečo maksimalnemu številu ljudi, sicer je odločitev moralno slaba. Medtem gre po kantovski deontologiji pri takšni kalkulaciji za nedopustno objektifikacijo posameznika, ki ga žrtvujemo, da bi dosegli nek cilj.
V etiki je dilema znana kot problem pobeglega vagona, v pravu pa je dobila odblesk leta 2006 z odločitvijo nemškega ustavnega sodišča. To je namreč razveljavilo določbe nemškega zakona o obrambi, sprejete po terorističnih napadih 11. septembra, ki je ministru za obrambo dopuščal odločitev o sestrelitvi ugrabljenega civilnega letala. Nemški zakonodajalec je preigral možnosti odziva na napad z ugrabljenim civilnim letalom na jedrsko elektrarno ali razprodan stadion in uzakonil to skrajno možnost. Kljub temu je sodišče odločilo, da država potnike s tem, ko privoli v njihovo žrtvovanje, obravnava kot objekte in sredstvo za reševanje drugih, in jim zato odreka vrednost, ki je lastna človeku zaradi njega oziroma nje same(ga).
Moralni konflikti avtonomnih vozil so podobni. Sprožajo raziskovanja na področju eksperimentalne etike – kako ljudje konkretno dojemajo, kaj je bolj etično. V nedavni študiji so 900 udeležencem predstavili številne scenarije, ko mora avtonomno vozilo izbrati med poškodbami potnikov in tretjimi osebami. Ugotovili so, da se ljudje strinjajo z utilitaristično sprogramiranim vozila, ki bodo minimalizirala število smrtnih žrtev. A le v primeru, ko respondenti niso sebe dojeli kot lastnikov teh avtomobilov. Paradoks zato nastane, ker ljudje ne bodo kupovali avtonomnih vozil, če jih bodo ta po utilitarističnem izračunu hitreje žrtvovala.
