Разработчики искусственного интеллекта (ИИ) для робокаров, утверждают, что анализ компьютерным «мозгом» всего происходящего вокруг автомобиля, ничем не отличается от того, что можно ожидать от человека-водителя. В том числе, ИИ должен быть в состоянии принимать этические решения, и в конечном итоге нести ответственность за вождение автомобиля. Но насколько реальны эти заявления?
Если предположить, что самоуправляемая машина с пятью пассажирами движется по улице, а с тротуара на проезжую часть выскакивает ребенок. ИИ беспилотника может выбрать:
или ударить и, вероятно, нанести увечья ребенку, но, при этом, спасти пять человек в автомобиле;
или врезаться в бетонную стену, чтобы избежать наезда на ребенка, но это, возможно, приведет к гибели пяти пассажиров.
Как поступить в таком случае?
Если ИИ будет вовлечен в решение этой дилеммы, это значит, что «мозг» робомобиля сможет «осознавать» и потенциальные последствия.
Именно это «знание» этических аспектов является ключевым фактором. ИИ робокаров должен быть разработан с учетом этического компонента, который будет выведен на передний план всякий раз, когда возникают такого рода ситуации.
Конечно, легко сказать, что это нужно сделать. Но если такое все же возможно, то возникают новые вопросы, требующие внимания:
Каким образом будет запрограммирован этот этический компонент?
Кто решает, как могут выглядеть этически правильные или неправильные действия?
Представьте себе, что обычный Java-программист, при написании кода для самостоятельного вождения, произвольно решает, каким должен быть этический выбор ИИ автомобиля. Довольно пугающее предложение, согласитесь?
Нуждается ли этот процесс в публичном обсуждении? Я считаю - абсолютно да! Будут ли это комиссии по «этике» из творческой интеллигенции, психологов, философов и моралистов? Возможны ли разные ограничения «морали» ИИ для робокаров, используемых в гражданских перевозках и применяемых в армии? Время технической мысли летит мгновенно – 10 лет назад видеосвязь по телефону была фантастикой. Поэтому нормативные документы необходимо прорабатывать уже сейчас.
Пока же самоходная автомобильная промышленность старается обходить этот вопрос, идя по пути утверждения, что человек-водитель остается ответственным за этический компонент работы беспилотника. Это означает, что до тех пор, пока робомобили не достигнут пятого уровня самостоятельного вождения (когда ИИ способен управлять автомобилем без участия человека вообще), в любых ситуациях человек-водитель будет козлом отпущения.
Проблема этики беспилотных автомобилей является сложной темой, в которой общество в целом заинтересовано. Существуют различные комитеты и группы, начинающие изучать эти вопросы. Помимо сложности принятия решения о морали ИИ, которую нужно запрограммировать в автомобиле, необходимо также понимать, кто несет ответственность за этический выбор:
- автопроизводитель,
- разработчик программного обеспечения,
- владелец робокара.
Пока же автокомпании считают, что нет необходимости заниматься данным вопросом, но, тем не менее, с развитием отрасли, проблема начнет появляться. И, вероятно, количество смертельных аварий с участием самоуправляемых автомобилей, первое время, будет велико. Производители беспилотников уже сейчас должны решать проблему взаимосвязи ИИ и этики, иначе это станет бомбой замедленного действия.
Уважаемые читатели, жду ваши отклики и комментарии. Подписывайтесь на канал – будет интересно.