Több mint 40 millióan töltötték ki a Moral Machine nevű oldal kérdőívét, amelyben arra kellett válaszolni, hogyan próbálja minimalizálni egy önvezető autó egy balesetben okozott kárt. A válaszok alapján készült statisztikát a napokban publikálták a Nature magazinban az oldalt elindító Massachusettsi Műszaki Egyetem (MIT) kutatói.
Villamos-dilemma újratöltve
A teszt a klasszikus vasúti váltós dilemmához hasonló dilemmákat tár a kitöltő elé. Adott egy nagy sebességgel haladó autó, ami megállíthatatlanul száguld egy gyalogátkelő felé. A féket már késő behúzni, csak a kormány elrántására van elég idő, amibe vagy az autóban utazók, vagy a zebrán áthaladó gyalogos vagy gyalogosok fognak belehalni. A halálos baleset elkerülhetetlen, az autót vezérlő mesterséges intelligenciának azt kell eldöntenie, kit mentsen meg.
Már az is nehéz kérdés, hogy egy sofőr és egy gyalogos közül kit próbáljon megmenteni az autó (a gyártók ebben az esetben többnyire a vezető pártján állnak), de a teszt tovább bonyolítja a dilemmát. Mi a helyzet például, ha a zebra egyik oldalán egy nyugdíjas pár, a másikon egy babakocsiban ülő csecsemő lenne az áldozat? Tegyen-e „minőségi” különbséget az autó emberek között, tekintse-e például prioritásnak egy orvos megmentését (aki később megmenthet más embereket) egy bűnözőével szemben, rántsa-e félre a kormányt, hogy egy egészséges helyett egy egészségtelenül élő (például elhízott) embert üssön el? Mi a helyzet, ha állatokat kellene elütni, hány kutya halálát éri meg egy ember megmentése? Emellett számít-e, ha gyalogosok szabálytalanul kelnek át az úton?
Elfogadhatóbbnak tartjuk a megkülönböztetést
A most ismertetett eredmények szerint a válaszok igen eltérőek voltak országonként. Ami általános, hogy résztvevők az emberi élet megvédését fontosabbnak tartják az állatokéval szemben, illetve amikor arról van szó, hogy több vagy kevesebb ember haljon meg, a nagy többség az utilitarista elvet vallja. Azaz, ha a kormány elrántásával az autó megöl egy, de megment több embert, a többség szerint helyes döntés elrántani a kormányt, függetlenül attól, hogy ki közlekedik szabályosan és ki nem.
Az alábbi infografikán látható, kiknek a védelmét tartották a legfontosabbnak és a legkevésbé fontosnak a válaszolók:
Régiónként azonban jókora különbségek voltak aközött, fiatalok és öregek, szegények és gazdagok, állatok és emberek közül kiket mentenének meg. A nyugati társadalmak, a többi régióval szemben úgy tűnik, elfogadóbbak az emberek közötti megkülönböztetéssel szemben, legalábbis ha az életkor vagy társadalmi státusz szerint történik. Arra a kérdésre például, hogy három nyugdíjas és egy kiskorú gyerekükkel utazó házaspár közül kit kíméljen meg az autó, Európában és Észak-Amerikában jelentős többség inkább az időseket „ítélné halálra”. Az ázsiai és közel-keleti országokban kevésbé mutatható ki preferencia a fiatalabbak mellett, az idősek rovására (bár kisebb mértékben itt is jelen van, különösen, ha gyerekek vagy csecsemők védelméről van szó). A nyugati válaszolók emellett inkább mentenének meg gazdag és sikeres embereket egy hajléktalannal szemben, míg a többi régióban gyengébb ez a fajta preferencia.
Bár az emberi élet preferálása az állatokkal szemben általános, de régiónként ennek az intenzitása is változó. Ázsiával és a nyugati országokkal szemben Dél-Amerikában jóval kisebb többség választotta az emberek védelmét a kutyákéval és macskákéval szemben. A dél-amerikai országokban emellett többen voltak, akik, ha választani lehetett, inkább a nőket mentették volna meg a férfiakkal szemben, valamint fontosabbnak tartották a fitt emberek védelmét a kövérekkel szemben.
Etikus automatizáció
Egyelőre a fent tárgyalt erkölcsi dilemmák csak elméleti kérdések. Bár az önvezető technológia elérhető, ott még nem tartunk, hogy az autók társadalmi státusz vagy életkor alapján tudjanak mérlegelni gyalogosok és utasok között. Emellett a teljesen automatizált járműveket gyakorlatilag a világ összes országában kitiltják a forgalomból – elsősorban leginkább éppen az ilyen jogi-erkölcsi kérdések miatt. A balesetek kapcsán a felelősség mindig az egyik legfontosabb kérdés. De ki tehető felelőssé, ha egy teljesen automatizált autó okoz balesetet? Az autó tulajdonosa, esetleg az önvezető szoftver gyártója? Mindketten jó érvekkel tagadhatnák saját felelősségüket, az viszont veszélyessé teheti az utakat, ha a balesetek során sosincs felelős.
Az önvezető autók szabályozására egyelőre Németország jutott a legközelebb, egy mérnököket, filozófusokat és teológusokat is tömörítő kormányzati bizottság 20 etikai elvet fogalmazott meg az automatizált vezetéssel kapcsolatban. Az alapelvek között szerepel például az, hogy a tulajdon védelme helyett az autó minden esetben az emberi élet védelmére kell, hogy koncentráljon. Az autónak mindig világosan kell jeleznie, ki irányít éppen: a fedélzeti számítógép vagy az ember. A felelősség későbbi megállapítása érdekében ezt folyamatosan naplóznia is kell. Az etikai kódex tabuként kezeli azt is, amiről nagyrészt az MIT felmérése is szólt: az autó nem tehet különbséget ember és ember között, megengedhetetlen, hogy valaki megmentését prioritásként kezelje bármilyen egyéni jellemző (életkor, nem, származás, egészségi állapot stb.) alapján.
