Sofőr nélküli autók: a programozás dönti el, hogy kit üssenek el

A szakértők szerint előbb-utóbb a sofőr nélküli autók fogják uralni az utakat és az a nap is eljön, amikor első alkalommal ütnek el valakit.

Készítőik jelenleg a törvényhozókat próbálják meggyőzni arról, hogy nincs szükségük külső segítségre az ilyen járművek szabályozásának kialakításához. Márpedig problémák és dilemmák akadnak jócskán.

Missy Cumming robotika mérnök az amerikai szenátus Kereskedelmi, Tudományos és Közlekedési albizottsága előtt elismerte, hogy a halálos és egyéb kimenetelű balesetek elkerülhetetlenek lesznek a sofőr nélküli autók integrációja során, a maihoz hasonló, rendkívül gyors és összetett társadalomba.

A Guardian írja:

„A robotautó forradalom útszűkülethez érkezett kedden miután számos szenátor és technológiai szakértő figyelmeztetett a technológiában rejlő halálos veszélyekre.
„Nem kérdés, hogy valaki meg fog halni ebben a technológiában,” mondta Missy Cummings a Duke Egyetem robotika mérnöke a szenátus Kereskedelmi, Tudományos és Közlekedési albizottsága előtt. „A kérdés, hogy ezt miként tudjuk minimalizálni.”
Az autóipar vezetői és a törvényhozók hosszasan marakodtak azon, hogy vajon szükség van-e egyetemes szabványokra a sofőr nélküli autókhoz…
„Ennek a technológiának a hitelessége nagyon törékeny, ha az emberek nem bízhatnak meg a szabványokban, amik nemcsak Önökre, hanem minden szereplőre vonatkoznak, akik a későbbiekben lépnek be a képbe,” mondták Ed Markey és Richard Blumenthal szenátorok, akik egy rendelkezésjavaslatot is készítettek az automatizált autóvezetőkre vonatkozó minimális tesztelési elvárásokról.

Ezek a bizonyos „standardok” olyan programokat vagy programozást takarnak, amik a jövőben kénytelenek lesznek végzetes kimenetelű, ártatlan szemlélődők életét vagy halálát jelentő döntéseket hozni, sokszor olyan helyzetekben, amiknek csak vesztesei lesznek.

Létezik erkölcsi skála, amit a számítógép és az ember egyaránt elfogadhat?

Amennyiben például a sofőr nélküli autót úgy programozták, hogy mindenáron elkerülje egy gyerek elgázolását, az egyúttal azt is jelenti, hogy inkább megöli (feláldozza) a sofőrt, ha az éppen egy ilyen katasztrófa felé tartva ül az autó fogságában? Nem kapunk egyértelmű választ.

A standardok egyre összetettebbek erkölcsileg. Chris Urmson, a Google X, vagyis a Google sofőr nélküli autókat gyártó ágának munkatársa elmondta, hogy cége keményen dolgozik ezeknek a nehéz problémáknak a megoldásán. Például merre kanyarodjon az autó, ha választania kell az úton játszó gyerek elgázolása vagy a felüljáró szalagkorlátjának átszakítása, vagyis a sofőr szinte biztos halála között?
A Google kidolgozott egy saját „Robotika Törvényt” az autói számára: „Azt mondjuk, hogy elsősorban próbáljuk meg elkerülni a sérülékeny közlekedőket, utána próbáljuk meg elkerülni a többi járművet, ezen felül pedig legyünk teljesen átláthatók a felhasználók felé a rendszer működését illetően,” mondta Urmson.

Egy számítógép folyamatainak és döntéshozó szerkezetének „erkölcse” valamint az egyes helyzetekből egyesek számára nyilvánvalóan elkerülhetetlen baj, csupán a történet egyik oldala.

Ironikus vagy talán inkább tragikus módon az autonóm járművek nagyon könnyen hekkelhetők, hiszen az autón belüli Internetre kötött eszközök segítségével egy profi könnyűszerrel átveheti az irányítást a jármű felett.

„Tudjuk, hogy a sofőr nélküli autók egyes szenzorai nem túl megbízhatók jó idő esetén [?], magas házak közötti viszonylag szűk utcákban vagy olyan helyeken, amiknek a térképeit nem frissítették az autóban,” mondja Cummings. „Tudjuk, hogy gesztusfelismerés is komoly problémát jelent, különösen való világbeli terepeken. Azzal is tisztában vagyunk, hogy az emberek át fognak ülni a hátsó ülésre, amikor azt gondolják, hogy autójuk robot üzemmódban van és azt is tudjuk, hogy megkísérlik majd meghekkelni ezeket a rendszereket.”
„Tudjuk, hogy az emberek, beleértve a biciklistákat, gyalogosokat és más járműveket, megpróbálnak majd túljárni a vezető nélküli autók eszén, hogy kikényszerítsenek, vagy éppen megakadályozzanak bizonyos fajta reakciókat, mások leelőzése érdekében, vagy éppen szórakozásból,” mondta.

Néhány biztonsági szakértő már 2013-ban demonstrálta, hogy mennyire sebezhetők és könnyen hekkelhetők a modern autók. A lehetőségek ijesztőek. A DARPA két hekkere igazából azt tett az autóval, amit akart. Bár a kísérlet során közvetlen, kábeles hozzáférésük volt az autóhoz, láttunk már példát arra is, hogy a beépített bluetooth rendszeren, a mobil autómentő hívás szolgáltatáson vagy akár a CD lejátszóba rakott, zenei CD-nek álcázott lemezen keresztül törték fel a jármű vezérlését.

Az alábbi angol nyelvű videón látható két DARPA hekker képes volt a Toyota Priusban található több mint 30 ACU, vagyis automata kontroll egységre rákapcsolódva félrerántani a kormányt, kikapcsolni a féket vagy „elhitetni” a járművel, hogy 199 mérföld per órás sebességnél a sofőr éppen hátramenetbe készül váltani. Vajon 3 év alatt merre változott a helyzet?

Mi történik majd, ha a jövő vezető nélküli autói nem értenek egyet a bennük ülő utas döntésével egy kritikus helyzetben, például amikor egy autólopási kísérlet elől vagy netán a rendőrök elől menekül valaki?

Nem nehéz megjósolni, hogy a technológiába vetett túlzott bizalom igencsak összekuszálhatja a dolgokat a jövőben és korlátozhatja az emberek döntéshozatali hatalmát az utakon. Addig reménykedjünk, hogy egy kis józan észt is beléjük programoznak.

Forrás: shtfplan.comhttp://idokjelei.hu/2016/03/sofor-nelkuli-autok-a-programozas-donti-el-hogy-kit-ussenek-el/