Мы уже несколько раз вспоминали так называемую «проблему вагонетки», когда размышляли о этической стороне применения автономных ИИ-систем. Пришло время более подробно узнать, что это такое. Так что сегодня в рамках наших упражнений в области философии сознания рассмотрим этот философский мысленный эксперимент из области этики, так как через пару встреч он понадобится нам для решения более конкретной задачи, связанной с Искусственным Интеллектом.
Впервые о проблема вагонетки написала Филиппа Фут в 1967 году. Оригинальная формулировка автора следующая:
Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?
В рамках поставленной этической проблемы есть только два варианта решения — переключать стрелку или нет. Любые пространные размышления о том, что можно было бы сделать, чтобы спасти всех, в оригинальной постановке не рассматриваются. Соответственно, есть много вариантов обоснования того или иного выбора. Самый простой — требования утилитаризма, которое говорит, что смерть одного в любом случае лучше смерти пятерых, как бы ужасно это не звучало.
До сегодняшнего дня философы продолжают придумывать разные варианты формулировки, которые вскрывают различные аспекты этики и морали. И, в общем-то, проблема показывает, что этика и мораль — это очень лабильные, относительные категории, которые невозможно формализовать. Как пример — а что если привязанный на обходном пути и есть тот самый сумасшедший философ, который привязал пятерых несчастных к рельсам главного пути? Если дать такую новую вводную, то чуть ли не 100 % опрошенных скажут, что переключить стрелку не только нужно, но и должно.
В следующий раз расскажу вам нечто более странное и страшное из области этики и теории игр, за что некоторые возмущённые читатели вообще пишут что-то типа: «Философия должна быть запрещена». Подписывайтесь на канал и оставайтесь на связи.