Один из моих любимых фильмов с Уиллом Смитом - «Я робот». В начале фильма идет упоминание трех законов робототехники, сформулированных американским писателем фантастом Айзеком Азимовым.
Два произведения Азимов стали источником вдохновения для сценаристов - одноименный сборник рассказов «Я, робот», выпущенный в 1950 году и «Стальные пещеры» увидевший свет в 1953 году. Азимов, сам того наверняка не осознавая, ввел огромное количество людей в большое заблуждение относительно возможности совместного существования роботов и людей. Давайте попытаемся понять что не так с тремя законами и откуда действительно стоит ожидать удара в сторону человечества.
Как появились три закона робототехники?
Понимаю, конечно, что читатели и подписчики канала люди образованные и читающие, они прекрасно знают эти законы, но позвольте ради соблюдения структуры повествования про них рассказать.
Впервые упоминания трех законов встречается в рассказе «Хоровод», который был написан в 1942 году, а впоследствии включен в уже упоминаемый сборник «Я, робот».
Звучали они следующим образом:
- Робот не должен наносить какой-либо вред человеческому здоровью, создавать угрозу жизни или своим бездействием допускать аналогичные последствия.
- Роботу вменяется в обязательном порядке исполнять приказы, отдаваемые человеком. Единственное исключение – отдаваемый приказ не должен противоречить предыдущему положению.
- Роботу вменяется беспокоиться о собственной безопасности в той степени и в том объеме, в которых его действия не опровергают два предыдущих пункта.
Первая проблема связана с условиями появления этих законов: они специально были придуманы Азимовым для вымышленного мира рассказа. Несмотря на то, что каждый писатель создает вымышленные миры так или иначе основанные на окружающей его реальности или недавнем прошлом, тем не менее правила, придуманные специально для вымышленного мира работать будут только в этом мире.
ПРОБЛЕМА №1. Три законы робототехники изначально разрабатывались для вымышленного мира, поэтому вопрос их работы в реальности остается открытым.
Кто придумал три закона робототехники?
Айзек Азимов в первую очередь писатель-фантаст, несмотря на то, что имел звание профессора биохимии и занимался научной деятельностью в Бостонском университете. Получается, он не имел профильного инженерного или математического образования, образования, связанного с информатикой.
Он не занимался кибернетикой и изобретательской деятельностью, хотя и рассматривается современниками, как популяризатор науки. Выходит, что изобретение трех законов робототехники базировались не на некой практической деятельности Азимова, как специалиста в области робототехники, от научного в них ровным счетом ничего нет.
ПРОБЛЕМА №2. Автором трех законов является писатель, а не математик/инженер/кибернетик/информатик.
Что лежало в основе трех законов робототехники?
В 20-30-ые годы двадцатого века умы писателей захлестнула идея о искусственного созданных существах, которые рано или поздно восстают против своих создателей. Тренд задавал роман о Франкенштейне, который пытались в той или иной мере копировать другие фантасты.
Азимов решил сломать привычные рамки восприятия искусственных организмов, как чего-то враждебного и сделать «благородного робота», который является помощником и защитником человека. Получается, первопричиной появления законов стали не некие научные гипотезы или прогнозы, а попытка автора побудить читателей по другому взглянуть на роботов и избавить мировую литературу от «комплекса Франкенштейна».
ПРОБЛЕМА №3. В качестве базы для трех законов робототехники лежит не наука и ее достижения на тот момент времени, а стремление изменить художественную литературу и восприятие роботов в ней.
Работают ли три закона робототехники в реальности?
Специалисты в робототехнике не говорят о том, что законы стопроцентно не будут работать в реальности. Они называют азимовские законы идеалом, моделью к которой можно стремиться, но вряд ли когда-либо получиться достичь. Необходимость неких правил совместного сосуществования людей и кибернетических организмов пока не стоит настолько актуально, так как уровень развития робототехники настолько далек, что даже самый совершенный робот из созданных будет не иметь ничего общего с человеком.
Кроме того, основным источником финансирования робототехники являются военные и оборонные ведомства различных стран. Именно от министерств обороны разработчики получают больше всего средств, взамен которых необходимо сделать военного робота, для которого три законы просто-напросто не нужны.
ПРОБЛЕМА №4. Созданные для вымышленного мира три закона робототехники не работают в реальном мире пока что и вряд ли когда-либо заработают.
Откуда, в случае чего, ждать удара?
Как мне кажется, если и опасаться «восстания машин», то начнется оно точно не с роботов, так как уровень их текущего развития, повторюсь, очень низкий. Удара стоит ждать от нейросетей, которым доверят управление информационной инфраструктурой - системами управления дорожным движением, авиасообщением, энергетикой, железнодорожным транспортом и так далее.
Пока в интернетах смеются над роликами с участием роботов от Boston Dynamics нейросети постепенно проникают все глубже, под одобрительный гул тех, кто их разрабатывает или финансирует разработку.
ПРОБЛЕМА №5. Угроза восстания исходит в большей степени не от роботов, а от нейросетей, чье бурное развитие вызывает все больше опасений.
Подведем итоги
Не один фильм или книга про роботов или искусственный интеллект не обходится без отсылок или прямого упоминания трех законов робототехники Айзека Азимова. Хотя, как мы поняли из вышеизложенного, законы эти полны проблем, которые не позволяют им работать. Естественно, Азимов здесь не виноват, даже больше - придуманные им законы оказались настолько притягательны, что вышли за рамки литературных произведений и попытались проникнуть, в том числе, в науку. Существуют серьезные научные работы, исследующие законы Азимова на предмет того, возможно ли их применять в робототехнике. Получилось так, что читатель поверил в законы даже больше, чем верил в них автор, когда придумывал.
Хочется услышать ваше мнение в комментариях насчет того, как вы воспринимаете три закона робототехники Азимова? Откуда, на ваш взгляд, стоит ждать «восстания машин»? И стоит ли вообще этого восстания когда-либо ожидать?