Cчитает ли общество, что робот "существо разумное" или нет, что имеет значение при принятии решений? На эти вопросы ответила команда Майкла Лаакасуо из Хельсинкского университета.
Мораль интеллектуальных машин - это проект об отношении людей к моральному выбору, сделанному искусственным интеллектом. В последнем из исследований участники читали короткие тексты, в которых слегка гуманоидная машина iRobot, гуманоид iClooney и человек сталкиваются с так называемой дилеммой вагонетки. Это описывается ситуацией, когда неконтролируемый вагон едет по рельсам и, в зависимости от того, в какую сторону он направлен, убивает пять или одного человека. Наблюдатель не может предотвратить трагедию, а только настроить переключатель.
Большинство испытуемых сочли выбор iRobot и iClooney менее этичным, чем такое же решение, принятое человеком. Почему? Майкл Лаакасуо считает, что на их мнение влияют так называемая "зловещая долина".
"Зловещая долина" как термин, используется для описания явления, когда человечество в сочетании с искусственным интеллектом воспринимается как ужасное или пугающее, - поясняет исследователь. - Отношение к роботам-гуманоидам более негативное, что может быть связано, например, с трудностями в их идентификации. Сложнее решить, что это больше - живое существо или инструмент.
Почему важно знать, как люди воспринимают роботов? Это может влиять на направление развития ИИ и робототехники, а также влиять на регулирующие решения, связанные с искусственным интеллектом.
Поскольку люди с недоверием относятся к гуманоидным машинам, нужно ли нам перестать проектировать их таким образом или, скорее, попытаться изменить свое отношение к ним? Можно ли вообще использовать категорию морали в контексте машин? Каких роботов мы хотели бы видеть среди нас: тех, которые спасают пятерых, жертвуя одним, или тех, которые считают целесообразным убить пятерых, спасая одного? Необходимо ответить на многие вопросы.
Но, может быть, самая большая проблема здесь не в роботах? «У искусственного интеллекта не должно быть такой цели, чтобы делать что-то неэтичное», - сказал философ Леон Цехановский в психологическом справочнике POLITYKA. - Если это не так запрограммировано. В самом деле, программистов нужно бояться больше, чем роботов ».