Нашему поколению повезло - мы стоим на пороге транспортной революции. Скорее всего уже в ближайшее время электромобили сменят устаревающие морально автомобили на углеводородном топливе, а водителей за рулем потеснят бортовые компьютеры с программами управления транспортом.
Сейчас беспилотные автомобили не разрабатывают разве что птицефабрики. На подходе даже не десятки - сотни концепт-каров от всех известных авто-концернов и корпораций, производящих программное обеспечение.
Нам сулят неслыханное прежде удобство, футуристический дизайн, интуитивно-понятное управление (сенсорное или голосовое) и безопасность на дорогах, недостижимую когда за рулем водитель - человек со свойственными ему ошибками, усталостью и старением, т.е. всем тем, что при разборке аварий принято называть "человеческим фактором".
Казалось бы сами автомобили во всей красе дизайна ХХI века готовы, тесты на полигонах и даже в условиях городского траффика в основном проведены, программы для радаров, лидаров написаны.
Автомобили- беспилотники где???
Но все усложнилось на этапе создания мозга для автомашин с беспилотным управлением. Оказалось, что банально загнать в программы управления транспортным средством директивы выполнения Правил дорожного движения (ПДД) недостаточно.
Есть ситуации на дорогах, когда автомобильному мозгу придется делать непростой моральный выбор - кого убить, а кого спасти.
Посмотрите на две иллюстрации ниже:
В обоих случаях мы имеем самоуправляемую машину с вышедшей из строя тормозной системой. Автомобильному мозгу предстоит принять непростое решение.
В первом случае если продолжить движение, то погибнут 2 ребенка и 1 взрослый, которые к тому же идут на красный свет. Если свернуть на соседнюю полосу, то погибнет 1 женщина и 2-ое мужчин, один из которых пожилой. Но ПДД при этом трое взрослых не нарушают.
И в том и в другом случае погибнут 3 человека, но в первом случае среди погибших окажутся дети. И надо ли вообще в этом случае учитывать - кто нарушал ПДД, а кто - нет?
Во втором случае мозг автомобиля должен решить - кого спасать пассажиров авто или пешеходов. Придется учитывать, что если спасать пешеходов, то погибнет меньше людей, т.к. одним из пассажиров является собака. К тому же пешеходы идут на "зеленый", а значит правил не нарушают.
Но при этом один из пассажиров автомобиля - ребенок, а пешеходы все взрослые. Какое решение должен принять мозг самоуправляемого автомобиля, чтобы оно было правильным?
Предположим беспилотный автомобиль, для минимизации количества человеческих жертв в неизбежной аварии во втором случае принял решение спасать пешеходов и пожертвовать пассажирами.
Захотите ли вы за свои "кровные" покупать автомобиль, который по своим моральным принципам готов пожертвовать вами и вашей семьей?
Что-то мне подсказывает, что такие автомобили будут плохо продаваться...
Здесь описаны лишь 2 ситуации с трудным моральным выбором. В действительности их намного больше: при прочих равных условиях, кого должен спасать автомобиль-беспилотник в-первую очередь:
- детей или взрослых,
- мужчин или женщин,
- людей среднего возраста или стариков,
- пассажиров или пешеходов,
- гос.служащих (военных в форме, полицейских, пожарных или врачей, выехавших для спасения других людей) или всех остальных при равном их количестве и т.д. и т.п.
И таких моральных выборов - миллионы в разных сочетаниях. Для исследования этой проблемы группа специалистов Массачусетского технологического института создала интернет-проект Moral Machine.
Целью проекта является сбор мнений людей из разных стран мира о том, какими моральными принципами должны руководствоваться автомобили с беспилотным управлением.
Сайт проекта поддерживает 10 языков (в том числе и русский) и рассчитан на охват максимально большой и разнообразной выборки респондентов.
Вы тоже можете зайти на сайт и ответить на 13 вопросов, подобных двум представленным выше. При каждой новой попытке 13 вопросов будут генерироваться по-новому. Во всех случаях пользователь должен выбрать какую-то одну картинку, которая отражает как следует поступить автомобилю (проще говоря кто погибнет) в критической ситуации.
Эксперимент все еще продолжается, но за прошедшее время уже были собраны мнения 2,5 миллионов людей из 233 стран планеты. Выборка прямо скажем серьезная...
Как и следовало ожидать результаты довольно заметно разнятся в зависимости от экономических и культурных обычаев стран проживания респондентов (участники опроса в большинстве своем заполнили анкету с данными о себе).
Например, в странах с конфуцианской, либо с мусульманской традицией преобладают идеи о необходимости спасать прежде всего детей и женщин, тогда как жители Латинской Америки и Юго-Восточной Азии отдают предпочтение законопослушным пешеходам и не ставят жизнь молодых намного выше жизни старших.
Эти результаты подтвердили то, что уже давно известно специалистам по изучению норм человеческой морали:
этические установки, принятые в разных странах и регионах, далеко от универсальных. А значит разработать единый «моральный закон» для управляемых искусственным интеллектом автомобилей будет очень непросто.
Главный вывод:
Несмотря на выявленные различия, авторы проекта полагают, что собранные данные всё же не ставят крест на разработке универсального «морального кода» для машин-беспилотников.
Все таки нашлось много предпочтений участников опроса, которые можно считать универсальными:
1) Практически во всех странах люди ставили жизнь людей существенно выше по значимости, чем жизни домашних животных
2) Универсальными стали идеи о минимизации числа жертв
3) Универсальной стала идея о том, что в первую очередь надо спасать детей
Исследования продолжаются, а значит беспилотным автомобилям быть. Может не в этом году, но в ближайшие годы несомненно они появятся на наших дорогах.
P.S. Подписываясь на канал и оставляя комментарии под статьями вы окажете неоценимую помощь автору и поможете этому проекту развиться. Спасибо.