Кого вб'є безпілотне авто? Машина, врятуй якнайбільше людей, але найбільше врятуй мене!

Якщо виникає ситуація, коли автономній системі автомобіля доводиться робити швидкий вибір, кого пожертвувати у разі неминучої аварії – як вона має реагувати? Жертвувати пасажирами заради порятунку пішоходів? За потреби убити пішохода, щоб пощадити, наприклад, сім'ю з чотирьох людей, які їдуть в автомобілі? Чи, можливо, він завжди повинен захищати себе насамперед?

Коли в Каліфорнії понад шістдесят компаній вже отримали дозвіл на особисте тестування, важко сказати, що галузь готується зіткнутися з етичними дилемами. На даний момент він бореться з більш базовими проблемами — роботою та навігаційною ефективністю систем та просто запобіганням зіткненням та непередбачуваним подіям. У таких ситуаціях, як недавнє вбивство пішохода в Арізоні або наступні аварії (1), поки що йшлося просто про системні збої, а не про якийсь «етичний вибір» машини.

Врятуйте багатих та молодих

Питання прийняття такого роду рішень не є абстрактними проблемами. Будь-який досвідчений водій може це підтвердити. Минулого року дослідники з MIT Media Lab проаналізували понад сорок мільйонів відповідей респондентів з усього світу, які вони зібрали в ході дослідження, розпочатого у 2014 році. Система опитування, яку вони називають «Етична машина», показала, що в різних місцях навколо у світі на подібні запитання ставлять різні відповіді.

Найзагальніші висновки передбачувані. В екстремальних ситуаціях люди вважають за краще рятувати людей турботі про тварин, прагнучи зберегти якнайбільше життів, і, як правило, молодші, ніж люди похилого віку (2). Є також деякі, але не такі явні переваги, коли йдеться про порятунок жінок перед чоловіками, людей з вищим статусом перед біднішими та пішоходів, а не пасажирів автомобілів..

2. Кого має врятувати машина?

Оскільки майже півмільйона респондентів заповнили демографічні анкети, вдалося співвіднести їх переваги з віком, статтю та релігійними поглядами. Дослідники дійшли висновку, що ці відмінності не «значно вплинули» на рішення людей, але наголосили на деяких культурних впливах. Французи, наприклад, виявляли схильність зважувати рішення з урахуванням передбачуваного числа смертей, тоді як у Японії акцент робився найменше. Проте в Японії життя старих цінується набагато більше, ніж на Заході.

Перш ніж ми дозволимо нашим автомобілям самим приймати етичні рішення, нам необхідно провести глобальні дебати з цього приводу. Коли компанії, які працюють над автономними системами, дізнаються про наші уподобання, тоді вони розроблятимуть на їх основі етичні алгоритми в машинах, а політики зможуть почати вводити адекватні правові положення», — писали вчені у жовтні 2018 року в Nature.

Один із дослідників, які брали участь в експерименті «Моральна машина», Жан-Франсуа Боннефон, вважав тривожним перевагу порятунку людей з вищим статусом (наприклад, керівників, а не безпритульних). На його думку, це дуже пов'язано з рівень економічної нерівності у цій країні. Там, де нерівність була більша, перевага віддавалася принесенню в жертву бідних і безпритульних.

Одне з попередніх досліджень показало, зокрема, що, на думку респондентів, автономний автомобіль має захищати якнайбільше людей, навіть якщо це означає втрату пасажирів. При цьому респонденти заявляли, що не стали б купувати запрограмований таким чином автомобіль. Дослідники пояснили, що хоча люди вважають більш етичним рятувати більше людей, вони також керуються власними інтересами, що може бути сигналом для виробників про те, що клієнти неохоче купуватимуть автомобілі, оснащені альтруїстичними системами.. Якийсь час тому представники компанії Mercedes-Benz заявили, що якби їх система рятувала лише одну людину, то вони вибрали б водія, а не пішохода. Хвиля соціального протесту змусила компанію відкликати свою декларацію. Але дослідження ясно показує, що у цьому святому обуренні було багато лицемірства.

У деяких країнах це вже відбувається. перші спроби правового регулювання в полі. У Німеччині прийнято закон, який вимагає, щоб автомобілі без водія за всяку ціну уникали травм або смерті. У законі також йдеться, що алгоритми ніколи не можуть приймати рішення на основі таких характеристик, як вік, стать, здоров'я чи пішоходи.

Audi бере на себе відповідальність

Конструктор не може передбачити всі наслідки експлуатації автомобіля. Реальність завжди може надати комбінацію змінних, які раніше ніколи не перевірялися. Це підриває нашу віру у можливість «етичного програмування» машини загалом. Нам здається, що в ситуаціях, коли виникає помилка і відбувається трагедія «з вини автомобіля», відповідальність має нести виробник та розробник системи.

Можливо, це міркування правильно, але, можливо, не тому, що воно було хибним. Швидше тому, що було дозволено рух, який не був на 2019% вільний від можливості його вчинення. Схоже, саме в цьому і причина, і від загальної відповідальності не ухиляється компанія, яка нещодавно заявила, що візьме на себе відповідальність за аварії за участю A8 3 роки при використанні в ній автоматичної системи Traffic Jam Pilot (XNUMX).

3. Інтерфейс Audi Traffic Jam Pilot

З іншого боку, є мільйони людей, які водять машини і теж роблять помилки. То чому ж машини, які за статистикою роблять набагато менше помилок, ніж люди, що підтверджується численними помилками, повинні зазнавати дискримінації в цьому відношенні?

Якщо хтось думає, що дилеми етики та відповідальності у світі автономних транспортних засобів є простими, продовжуйте думати…