Barvni vzorec, zaradi katerega se avtonomnim avtomobilom zmeša
Raziskovalci nemškega Inštituta Maxa Plancka za inteligentne sisteme proizvajalce opozarjajo na nevarnost.
Odpri galerijo
Ta vzorec lahko povsem zmede nevronska omrežja avtonomnih vozil. Foto Inštitut Max Planck
Skupina raziskovalcev tübinškega Inštituta Maxa Plancka za inteligentne sisteme je ugotovila, da določen vzorec, sestavljen iz točk različnih barv, lahko povsem zmede tako imenovana nevronska omrežja, kakršna se v večini primerov uporabljajo za prepoznavanje okolice pri avtonomnih vozilih. Nemški Die Welt poroča, da so znanstveniki svoje ugotovitve nedavno obelodanili na mednarodni znanstveni konferenci v Južni Koreji, že pred tem pa so na nevarnost opozorili proizvajalce avtomobilov, ki razvijajo avtonomna vozila.
Nevronska omrežja so posebna vrsta umetne inteligence, ki deloma posnema delovanje človeških možganov. Ta omrežja v avtomobilski industriji razvijajo zato, da bi lahko dovolj hitro ovrednotila in interpretirala podatke kamer avtonomnih vozil in v realnem času posredovala naprej podatke, potrebne za ukrepanje ali reagiranje glede na stanje na vozišču. To je za razvijalce ogromen izziv, saj morajo kamere in nevronska omrežja brezhibno delovati ob vsakem vremenu in v zelo različnih svetlobnih pogojih pravilno oceniti situacijo v prometu ter prepoznati na primer človeka, ki nenadoma stopi na cesto.
Vse skupaj je zelo težko usklajevati tudi v primeru, da vsi udeleženci v prometu upoštevajo vsa pravila in ni nobenih odstopanj od običajnega in pričakovanega obnašanja. A še večja težava je, če bodo hoteli razvijalci avtonomnih avtomobilov predvideti tudi to, da vsi ljudje niso dobronamerni in da se bo našel tudi kdo, ki bo hotel avtonomne avtomobile namerno motiti ali zmesti. In prav na to možnost poskušajo opozoriti člani raziskovalne skupine Anurag Ranjan, Joel Janai, Andreas Geider in Michael Black.
Sami so namreč vzorec, s katerim so uspešno zmotili optične sisteme umetne inteligence oziroma nevronska omrežja, odkrili v slabih štirih urah in pokazali, da lahko z njim povsem zmedejo avtonomno vozilo. In sploh ni potrebno, da bi bil vzorec posebno velik, dovolj je, da je natisnjen na nakupovalni vrečki ali na majici in obrnjen tako, da ga optični sistem avtonomnega vozila zazna in že je vozilo onesposobljeno.
Proizvajalci avtomobilov sicer skrivajo podatke o sistemih, ki jih razvijajo in vgrajujejo v avtonomna vozila, tako da ni gotovo, da prav vsi uporabljajo nevronska omrežja, toda glede na trenutno stanje tehnike je verjetnost, da uporabljajo prav te sisteme, zelo velika, še piše Die Welt. Cilj mladih raziskovalcev pa ni, da bi opogumljali zlobneže in jim kazali načine, kako lahko povzročijo zmedo na cesti, ampak opozoriti proizvajalce na nevarnost, s katero se bodo morali spopasti pri razvijanju vozil, da bodo avtonomna vozila v prihodnosti varna in neobčutljiva na takšne morebitne napade, pravi Michael Black.
Umetna inteligenca, ki posnema možgane
Poskusno avtonomno vozilo je opremljeno s kamerami in senzorji, za katere nemški raziskovalci trdijo, da jih je mogoče zmesti s preprostim vzorcem. Foto Toby Melville/reuters
Vsi ljudje niso dobronamerni in našli se bodo takšni, ki bodo hoteli zmesti avtonomna vozila.
Nevronska omrežja so posebna vrsta umetne inteligence, ki deloma posnema delovanje človeških možganov. Ta omrežja v avtomobilski industriji razvijajo zato, da bi lahko dovolj hitro ovrednotila in interpretirala podatke kamer avtonomnih vozil in v realnem času posredovala naprej podatke, potrebne za ukrepanje ali reagiranje glede na stanje na vozišču. To je za razvijalce ogromen izziv, saj morajo kamere in nevronska omrežja brezhibno delovati ob vsakem vremenu in v zelo različnih svetlobnih pogojih pravilno oceniti situacijo v prometu ter prepoznati na primer človeka, ki nenadoma stopi na cesto.
Vse skupaj je zelo težko usklajevati tudi v primeru, da vsi udeleženci v prometu upoštevajo vsa pravila in ni nobenih odstopanj od običajnega in pričakovanega obnašanja. A še večja težava je, če bodo hoteli razvijalci avtonomnih avtomobilov predvideti tudi to, da vsi ljudje niso dobronamerni in da se bo našel tudi kdo, ki bo hotel avtonomne avtomobile namerno motiti ali zmesti. In prav na to možnost poskušajo opozoriti člani raziskovalne skupine Anurag Ranjan, Joel Janai, Andreas Geider in Michael Black.
Anurag Ranjan, Joel Janai, Andreas Geider In Michael Black z vzorcem, ki zmede avtonomna vozila. Foto Inštitut Max Planck
Vzorec so odkrili v nekaj urah
Sami so namreč vzorec, s katerim so uspešno zmotili optične sisteme umetne inteligence oziroma nevronska omrežja, odkrili v slabih štirih urah in pokazali, da lahko z njim povsem zmedejo avtonomno vozilo. In sploh ni potrebno, da bi bil vzorec posebno velik, dovolj je, da je natisnjen na nakupovalni vrečki ali na majici in obrnjen tako, da ga optični sistem avtonomnega vozila zazna in že je vozilo onesposobljeno.
Opozorilo proizvajalcem
Proizvajalci avtomobilov sicer skrivajo podatke o sistemih, ki jih razvijajo in vgrajujejo v avtonomna vozila, tako da ni gotovo, da prav vsi uporabljajo nevronska omrežja, toda glede na trenutno stanje tehnike je verjetnost, da uporabljajo prav te sisteme, zelo velika, še piše Die Welt. Cilj mladih raziskovalcev pa ni, da bi opogumljali zlobneže in jim kazali načine, kako lahko povzročijo zmedo na cesti, ampak opozoriti proizvajalce na nevarnost, s katero se bodo morali spopasti pri razvijanju vozil, da bodo avtonomna vozila v prihodnosti varna in neobčutljiva na takšne morebitne napade, pravi Michael Black.
