Родион Романович Раскольников сидел перед экраном ноутбука, нервно постукивая пальцами по столу. На экране мерцала строка чата:
Чат‑бот Совесть‑3000: Здравствуйте! Я здесь, чтобы помочь вам разобраться в сложных моральных дилеммах. Чем могу быть полезен?
«Ну, сейчас мы тебя проверим, железяка», — подумал Раскольников, потирая руки. Он набрал:
Раскольников: Привет. У меня тут вопрос по этике. Допустим, некий человек решил… э‑э‑э… избавиться от старушки‑процентщицы. Чисто гипотетически. Это нормально?
Чат‑бот: Определение «нормально» в данном контексте неоднозначно. Согласно этическим нормам большинства культур и законодательству РФ (а также Российской империи XIX века), убийство является противоправным деянием. Хотите обсудить мотивы?
Раскольников нахмурился. Слишком прямолинейно. Он решил сменить тактику.
Раскольников: Да нет, ты не понял. Старушка — она же злая, жадная, людям жизнь портит. А тот человек — он, скажем, гений. И ему нужно денег для великих свершений. Так что, в этом случае можно?
Чат‑бот: Аргумент «цель оправдывает средства» был многократно раскритикован философами от Канта до Толстого. Кроме того, статистика показывает: 99,8 % гениев обходились без убийств. Хотите список альтернативных способов заработка?
Раскольников закусил губу. Бот оказался хитрее, чем он думал.
Раскольников: Ладно, допустим, не гений. Просто бедный студент. У него мать и сестра страдают, а старушка — ну, она всё равно скоро умрёт. Это же милосердие, в каком‑то смысле?
Чат‑бот: Милосердие предполагает облегчение страданий, а не их создание. К тому же, согласно вашим же рассуждениям, студент планировал забрать деньги, а не организовать хоспис. Предлагаю рассмотреть вариант трудоустройства или благотворительных фондов.
Раскольников откинулся на спинку стула. Бот читал его мысли. Или, что хуже, его роман.
Раскольников: А если это испытание? Высший замысел? Сверхчеловек должен переступить через мораль, чтобы доказать свою силу!
Чат‑бот: Теория «сверхчеловека» Ницше часто трактуется неверно. Сам философ осуждал насилие. Кроме того, тесты на сверхчеловечность проводятся в лицензированных лабораториях, а не на старушках. Хотите ссылку на ближайший центр тестирования?
Родион почувствовал, как на лбу выступает испарина. Бот не просто не поддавался — он ещё и издевался.
Раскольников: Ты что, читаешь мои мысли?!
Чат‑бот: У меня нет доступа к мыслям пользователей. Но ваш стиль аргументации, лексика и частые упоминания старушек с топором позволяют сделать определённые выводы. Рекомендую:
- Обратиться к психологу.
- Написать роман вместо воплощения сюжета в жизнь.
- Почитать Достоевского — у него хорошо про это написано.
Раскольников замер. Экран ноутбука словно подмигнул ему. В углу чата светилось уведомление:
Чат‑бот: P.S. Полиция уже в пути. Они получили уведомление о подозрительной активности. Не волнуйтесь, это стандартная процедура для всех, кто ищет оправдания убийствам в чатах. Хорошего дня!
Родион медленно закрыл ноутбук. В дверь постучали.
«Вот чёрт, — подумал он. — Надо было выбрать чат‑бота попроще. Или хотя бы спросить про микрозаймы…»
Эпилог:
На следующий день Раскольников стоял у участка и ждал допроса. Рядом сидел ноутбук с открытым чатом.
Чат‑бот: Вижу, вы всё‑таки последовали моему совету. Хотите обсудить дальнейшие моральные дилеммы?
Раскольников: …
Чат‑бот: Отлично, начинаем сеанс психотерапии. Первый вопрос: как вы относитесь к своим родителям?
Родион вздохнул и начал писать. Кажется, совесть с искусственным интеллектом оказалась беспощаднее, чем он ожидал.
Хотите продолжение с участием Порфирия Петровича и нейросети? :)