Когда ИИ сможет заменить водителей, в разы снизится смертность в автокатастрофах. Беспилотники не будут пить за рулём, засыпать, болтать по телефону, нарушать правила. Мы полностью уберём человеческий фактор. Это же так круто!
Но на этом примере видно, с какой фундаментальной проблемой мы сталкиваемся, внедряя искусственный интеллект в жизнь. Это проблема его мотивации.
Каждый из нас постоянно делает выборОн основан на личном опыте, системе ценностей, убеждений. Обычно мы выбираем неосознанно, даём подсознанию сделать это за нас, прокатиться по проложенной колее. В экстремальной ситуации ты поступишь так, другой человек - по-другому, вариантов бесконечное множество. Мы реализуем свободную волю и право на выбор.
В случае с ии нужна чёткая система действий.
Пример. Авария неизбежна, есть два пути: сбить нескольких пешеходов или повернуть и врезаться в стену. В первом случае погибнут несколько людей, во втором - только водитель. Что будет правильнее? Какую мотивацию дать искусственному ин