Известна психолого-этическая задача вагонетки (или другое название "проблема вагонетки")
- Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?
Потом "вагонетку" (предлагаемый мысленный эксперимент) несколько раз и очень по-разному модифицировали:
- А если тех пятерых вы не знаете лично, а того одного знаете?
- А если вы знаете лично кого-то из тех пятерых и его семью?
- А если кто-то из тех пятерых относится к группе людей, которых вы не любите (наркоман, гомосексуалист, кавказец, патриот Путина, Дмитрий Медведев и др.)? // автор этой статьи Путина с Медведевым любит, тем более любит Рамзана Ахматовича... но вдруг вы кого-то из них не любите и кто-то из них один или в числе пяти?
- А если те пятеро - члены российского правительства? // прежнего
- А если тот один на запасных путях ваш сосед сверху, который вас залил? Или ваш сосед снизу, которого залили вы?
- А если... (кто?) врач скорой помощи? Один или в числе пяти?
- А если он платный врач-стоматолог-ортопед, берущий за свою работу в 3 раза больше рынка...
- ... или спасший от смерти террориста?
- А если он один из пяти?
- А если он тот, который погибнет один отдельно?
- А если там не пятеро, а всего двое? А если там не пятеро, а семеро? А если другое количество? Какое как бы вас заставило поступить, каковы ваши действия?
Проблема в том, что разные люди ответят на эти вопросы по-разному. Так же как разные учёные-философы ответят на разные вышеуказанные вопросы по-разному. Верующие и атеисты отвечают по-разному. Мужчины и женщины ответят по-разному
Нет ответов, на указанные вопросы, которые устроят всех
Колхоз, 30-е годы. В клубе судят тракториста, по пьянке утопившего трактор в болоте. В тюрьму сажать нельзя - колхоз без тракториста останется и наказать надо
Председатель: - Ну что товарищи с ним делать будем?
Тянет руку кузнец, здоровенный парень: -А давайте я ему уe6у?!
Председатель: - Не, ты такой здоровый, еуe6ёшь и он помрёт, а у нас трактористов больше нет, нельзя так, надо наказать, но чтобы живой остался
Сидят, дальше обсуждают. Кузнец опять тянет руку
- Ну чего тебе?
- А давайте я тогда конюху уe6у - их у нас всё равно два?!
То есть с юморком отвечать на поставленные вопросы легко! На шутку переводить легко. Давать смело свои ответы на умозрительные задачи легко. Но поступать в таких ситуация на практике - не просто
Однако программистам, задающим алгоритмы движения будущим беспилотникам хоть на земле (автомобили без водителя), хоть в воздухе (воздушные судна без пилота, в том числе дроны и др.) придётся принимать решение (которое явно "всех" не устроит) и вшивать свою программу и свои алгоритмы решений в бездушный организм...
... да, беспилотник не будет знать лично никого из будущих жертв, но беспилотник точно будет выбирать, кого в аварийной ситуации спасти, а кого погубить. И здесь решений, которые устроят всех, не найдено
Кстати, политики всегда принимают решения по принципу "проблемы вагонетки" - кому денег дать, кому не дать...
... кого послать на войну...
... убить ли одного "генерала Сулеймани" (в метафоричном смысле; не Сулеймани, так Александр Матросов - самоубийство ради других - или Яков Джугашвили - "Солдата на фельдмаршала не меняю") или рискнуть жизнями десятков, сотен или тысяч сограждан...
А если, убивая ракетой Сулеймани, ты будешь вынужден убить несколько невиновных гражданских жителей рядом, но у тебя есть достоверные разведданные, что если ты его не убьёшь, то погибнут сотни других?
К сожалению, решений, устраивающих всех, не бывает.