Популярная викторина MIT попросила простых людей сделать этические суждения для машин
Еслиавтоматизированному автомобилю пришлось выбирать между врезанием в барьер, убийством трех его пассажиров-женщин или перебежкой одного ребенка на улице - какой вызов он должен сделать?
Когда трое американских исследователей начали думать о будущем автомобилей с самостоятельным вождением, они задавались вопросом, как эти машины должны принимать трудные этические решения, которые люди обычно инстинктивно принимают. Эта идея побудила Жана-Франсуа Боннефона, Азима Шарифа и Ияда Рахвана разработать онлайн-викторину под названием «Моральная машина» . Ты бы наехал на мужчину или женщину? Взрослый или ребенок? Собака или человек? Группа или человек?
К 2069 году автономные транспортные средства могли стать величайшим препятствием для перевозки с тех пор, как в 1908 году в Детройте была запущена модель T Ford . Несмотря на то, что 62 компании имеют разрешения на испытания автомобилей с автоматическим управлением в Калифорнии, индустрия остается этически неподготовленной. Моральная машина была разработана, чтобы дать обычным людям некоторое представление о машинной этике - добавить свой голос в дебаты, часто ограниченные политиками, производителями автомобилей и философами. Медиум говорил с Боннефоном и Шарифом о том, что их результаты говорят нам об одной из величайших моральных дилемм будущего.
Это интервью было отредактировано и сжато для ясности.
Средний: Какая разница между тем, как люди и машины принимают моральные решения?
Жан-Франсуа Боннефон: Моральные решения, принимаемые людьми, подвержены влиянию многих факторов. Люди реагируют на гормоны, но они не делают этого разумно, не тогда, когда принимают решения очень быстро. Ты и я могли бы сидеть и часом обсуждать, как бы мы хотели отреагировать. Но нет никакого смысла, мы не можем запрограммировать себя делать то, что мы хотели бы делать, потому что мы действуем инстинктивно. Но с машинами мы можем сказать им, что мы хотим, чтобы они делали.
Азим Шариф: Машины обладают роскошью обдумывания, которой нет у людей. С этой роскошью приходят и обязанности обдумывания.
Что Моральная Машина рассказала вам о том, как мы хотим, чтобы машины работали?
Азим Шариф: Все страны предпочитали спасать молодых людей перед стариками и почти везде предпочитали спасать женщин перед мужчинами. Несмотря на то, что все предпочтения шли в одном направлении, были различия в том, насколько сильно страны относились к этому выбору. В восточных странах, таких как Япония, было меньше предпочтений жертвовать старым, чтобы спасти молодых. Но это предпочтение оказалось на Западе.
Жан-Франсуа Боннефон: Возможно, более интересно взглянуть на макроэкономические факторы. Все страны продемонстрировали тревожное предпочтение спасать людей с более высоким статусом [например, руководители бездомных]. Мы обнаружили, что это довольно сильно связано с уровнем экономического неравенства в стране. Там, где было большее неравенство, было большее предпочтение жертвовать бездомными.
Сколько внимания следует уделить производителям самостоятельных автомобилей на ваши результаты?
Азим Шариф: Это важный вопрос - насколько мы должны следить за тем, что демки говорят здесь? Если публика хочет, чтобы мы занимались чем-то одним, то как эти машины должны быть организованы с соблюдением этических норм? С чисто демографической точки зрения мы должны дать общественности то, что они хотят. Но есть люди, которые обучены продумывать этические решения, и, возможно, мы должны их слушать. Я не думаю, что нам следует просто придерживаться того, что говорит большинство, но я думаю, что полезно знать, что предпочитает публика. Это говорит о том, какой толчок мы получим за моральные кодексы, проникшие в машины.
В более раннем исследовании вы обнаружили, что люди думали, что автономное транспортное средство должно защищать большее количество людей, даже если это означало жертвовать своими пассажирами. Но они также сказали, что не будут покупать автономную машину, запрограммированную на такие действия. Что это говорит нам?
Азим Шариф: Люди признают, что этически более важно спасти больше жизней. Но люди заинтересованы в себе, и делать то, что этично, может быть трудно. Когда Mercedes-Benz сказал, что если бы они могли спасти только одного человека, они спасли бы водителя, а не пешехода, общественное возмущение заставило их отказаться от этого заявления. Это демонстрирует интересную дилемму для автомобильных компаний. Если вы скажете, что ваш автомобиль предпочтет пассажира, это вызовет общественное недовольство. Если вы решите относиться ко всей жизни одинаково, но ставить под угрозу жизнь человека, который купил автомобиль, вы можете нанести удар по чистой прибыли, люди могут не купить эту машину. От производителей, с которыми мы говорили, они хотят, чтобы решение было взято из их рук, и они хотят регулирования.
Должно ли правительство США последовать примеру Германии и издать этические руководящие принципы для самоуправляемых автомобилей?
Азим Шариф: Думаю, это хорошая идея. Преимущество участия правительства в том, что вы не оставляете этические решения на усмотрение рынка. Я не доверяю рынку, чтобы найти наиболее этические обсуждения. Было бы очень хаотично, если бы каждый производитель создавал свои собственные правила, чтобы потребители могли выбирать между алгоритмами.
Достаточно ли выровнены ценности людей для достижения универсальных ориентиров?
Азим Шариф: Я думаю, это было бы возможно. Люди согласились с общими пунктами, такими как спасение большего количества людей, чем меньшее. Но есть некоторые вариации, например, как вы должны относиться к людям, которые идут на сойку. Вероятно, это связано с несоответствиями в том, как эти нормы применяются в разных культурах. В Японии сойка не является нормальной вещью, но в Дели или Нью-Йорке люди постоянно выходят на улицу. Это может быть сложно, и автомобили, возможно, должны как-то реагировать на это.
Хотя было бы возможно достичь универсальной этики, я не думаю, что это необходимо. Когда я вез машину из Канады в США, мне пришлось модифицировать фары. С аппаратным обеспечением это сложнее, чем с программным. С программным обеспечением для самостоятельного вождения автомобиля можно было бы переключить алгоритм на местные обычаи. Я не думаю, что было бы огромной проблемой иметь некоторые культурные вариации.
Инженер, работающий над собственным проектом автомобильного автомобиля Google, сказал, что ваши результаты не были настолько значительными, потому что реальный ответ в этих сценариях почти всегда был бы " ударом по тормозам" . Действительно ли сценарии Моральной машины действительно актуальны для реальной жизни?
Азим Шариф: Эти ситуации будут невероятно редкими. Что, безусловно, более актуально, так это то, как каждое маленькое решение, которое принимает автомобиль, будет менять риск. Если в автомобиле больше места для детей, это решение повысит риск для водителя. Это небольшое решение может не привести к гибели людей, но вопрос, который нам нужно будет задать, заключается в том, как автомобиль должен распределять риск между людьми. Этот вопрос будет гораздо более сложным, но и гораздо более актуальным.