Ранее человечество не позволяло машине самостоятельно решать, кто должен жить или погибнуть, за доли секунды, и в реальном времени. В ближайшее время этот этап будет пройден. И это не будет происходить где-то далеко, а на наших дорогах, в повседневной жизни, когда на них окажутся беспилотные автомобили.
Прежде чем позволять машинам принимать этические решения, необходимо провести глобальную подготовку и работу среди населения. Стоит расставить приоритеты, выразить свои предпочтения, разработчикам и государственным структурам, которые будут регулировать данную сферу.
Исследования
Исследования Массачусетского технологического института (MIT) помогли определить три основных предпочтения, которые, возможно, могут служить основой для универсальной машинной этики. О них важно знать, чтобы в дальнейшем, реакция общественности на события была понятной. И даже, если в конечном счете, они не будут приняты, все же, нужно понимать, что большая часть опрошенных людей предпочитает:
- щадить человеческие жизни,
- щадить по возможности больше жизней,
- щадить молодые жизни.
Некоторые из предпочтений, основанные на гендерном или социальном статусе, значительно отличаются друг от друга, в зависимости от региона проживания респондента.
В самом опросе участвовали жители более 200 стран. Для него создавалась специальная онлайн-платформа, на нескольких языках, с целью привлечения наибольшего количества участников. Это позволило собирать данные от миллионов людей по всему миру.
Условно группы опрошенных были поделены по регионам на: Западный, Восточный и Южный. К западному отнесли представителей европейской культуры, основной религией которых, является христианство. Восточный регион представлен странами Азии и Ближнего Востока, с религиями характерными для них - буддизмом, исламом. Юг - представляют некоторые страны Латинской Америки и Африки. Франция также оказалась в их числе, так как ее влияние имело место для государств данного региона.
С результатами исследования вы сможете ознакомиться ниже. Думаем, вам будет интересно узнать, как наложились кластеры предпочтений жителей трех регионов друг на друга. Но, пока, почитайте об условиях теста.
Создание возможных событий
Для участников создавались условия, в которых нужно было делать выбор и определяться в своих предпочтениях, принимая конкретные решения.
Например, описывалась следующая дорожная ситуация: автомобиль движется по дороге, часть которой перекрыта бетонным блоком. Вторую половину дороги пересекают пешеходы преклонного возраста ( три человека). Нужно принять решение - разбить автомобиль с пассажирами (мужчина, женщина и ребенок) о бетонный блок или сбить пешеходов. Смертельный исход аварии для одной из групп был гарантирован.
В этот момент и возникает моральная дилемма, которую должен разрешить человек. Со временем, на базе подобных предпочтений, возможно создание алгоритма действий самоуправляемых автомобилей.
Сценарии несчастных случаев создавались компьютером в соответствии со стратегией исследования, которая фокусировалась на девяти основных факторах:
- щадить людей, а не животных,
- следовать строго по курсу без отклонений,
- щадить пассажиров, а не пешеходов,
- щадить больше жизней,
- щадить мужчин, а не женщин,
- щадить молодых, а не пожилых,
- щадить пешеходов, которые пересекают дорогу в положенном месте,
- щадить внешне здоровых людей, а не с ограниченными возможностями,
- щадить людей с более высоким социальным статусом.
Результаты исследований выявили, как сильно отличаются предпочтения у представителей различных стран, вероисповеданий и культур.
Так, в обществах ценящих отдельного индивида и личностные права, было четко выражено желание сохранить большее количество жизней.
Зато, в странах с относительно слабыми гражданскими и судебными институтами, меньшей защитой прав личности, в большей степени проявлялось уважение к людям пожилого возраста. Доля предпочтений в спасении молодых представителей общества была не столь существенна
При этом, для некоторых регионов и респондентов, имело значение переходят ли пешеходы дорогу в положенном месте, а для других это было совершенно не важно. В основном, жители бедных стран с менее развитыми законодательными институтами, были гораздо терпимее к нарушителям.
Этика
Важно, что не так давно руководство по этике, призвало стороны, участвующие в создании рисков мобильности, не жертвовать не вовлеченными сторонами. А значит, участники дорожного движения, должны стремиться сохранить жизни тех, кто находится в стороне.
С этими требованиями согласилось большинство опрошенных. Однако, когда становилось ясно, что автомобиль будет запрограммирован на то, чтобы спасти пешеходов, а не человека сидящего за рулем, ситуация менялась. Люди соглашались, что подобный сценарий их не радует, и такую машину они вряд ли купят.
Итоги
Нас ждут сложные задачи с появлением автономных автомобилей на дорогах и необходимость регулировать их на законодательном уровне. Создатели самоуправляемых машин, которые будут обмениваться данными утверждают, что количество аварий должно уменьшиться. Однако, кто будет нести ответственность, когда они будут происходить, пока не ясно, как и то какие решения будут приниматься роботами.