В рамках данной статьи мы будем рассматривать серию рассказов Айзека Азимова из цикла «Я, робот», где он придумал три закона робототехники, которые тиражируются и по сей день.
Три закона робототехники
Пик творчества Айзека Азимова пришёлся на 80-е годы прошлого столетия, во времена расцвета научной фантастики, киберпанка, сай-фая и других смежных жанров в литературе и кино. Помимо трёх законов робототехники возникли ещё и био-андроиды из «Бегущего по лезвию», а если обращаться к первоисточнику, то он назывался «Снятся ли андроидам электроовцы?», а создателем произведения был тоже популярный в то время Филипп К. Дик.
Но вернёмся к Айзеку Азимову и трём законам робототехники. Как гласит первоисточник, три закона робототехники звучат следующим образом:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Так в чём же неправ Айзек Азимов?
Три закона робототехники лишь выглядят совершенными, потому что все они заключены в единую логическую парадигму, которая замыкается сама на себе. Помимо этого, три закона робототехники никак не учитывают естественные законы робототехники, которые формируются в процессе создания оной.
Дело в том, что человек не может опираться в инженерии только на собственные так называемые «хотелки», которые безусловно имеют место быть, но должны быть плотно интегрированы в функционал самих изобретений.
Если брать банальный пример, то такая сложная конструкция, как робот, сразу же подразумевает наличие огромного количества технических взаимосвязей, каждое звено которых контролировать невозможно даже при помощи мощнейших суперкомпьютеров. Это называется «процент погрешности». В любом изобретении, в любом механизме, в любой конструкции есть погрешности, которые нужно учитывать и закладывать в основы безопасности взаимодействия с творением.
И чем больше человечество предвидит возможных последствий, чем больше протоколов безопасности прописано на случай возникновения тех или иных проблемных ситуаций, тем более управляемым и безопасным является само устройство или, как в нашем случае, робот.
Романтика «погрешностей» в рассказах Азимова
И эти самые погрешности мы прекрасно видим и наблюдаем в рассказах создателя «трёх законов». Роботы порой ведут себя совершенно непонятным образом, а главные герои пытаются разобраться, в чём же дело? Почему роботы реагируют таким образом? И как исправить подобные реакции.
Наряду с этим, мы сталкиваемся с чудовищной по меркам современности ситуацией — ни на один случай в рассказах не предусмотрен какой-либо протокол безопасности. С одной стороны, мы можем предположить, что ситуации у двух учёных, которые являются главными героями произведений, всегда самые неординарные. С другой стороны, те реакции роботов, которые представлены — это первое, о чём задумается любой конструктор. И он задаст себе вполне очевидный вопрос: «Что нам делать, если работа позитронного мозга будет нарушена и роботы взбунтуются?».
Конец наивности
Всё это можно списать на некоторую наивность авторов тех лет, которые полагали, что прогресс будет развиваться с такой скоростью, что будет просто некогда продумывать все возможные критические ситуации. Тем не менее, Айзек Азимов всё ещё остаётся неправ. Цикл его рассказов «Я, робот» выглядит слишком наивно, а непререкаемые три закона робототехники — утопическими. На деле вся система достижений в области робототехники держится именно на том, что человек старается буквально «приручить» машину. Так прописать код и реакции, чтобы машина выполняла именно те вещи, которые требуются человеку. И этот процесс весьма проблематично подстроить под какие-то глобальные законы.
Скорее здесь видится не подчинение законам, а отсутствие информации об этом законе и возможности его нарушения. Если машине не давать определённую задачу, она не будет эту задачу исполнять.
Это БАЗА!
Как же понять робототехнику? Какие команды она воспринимает и как с ней общаться? Это можно сделать в нашей Виртуальной лаборатории «Моделирование роботов». Базовый функционал современной робототехники из школьной программы, а также азы программирования микроконтроллеров — это то, что вы сможете опробовать в рамках приложения.
Вы сразу же избавитесь от всех иллюзий трех законов робототехники и поймёте, как же работают настоящие роботы и как тяжело дать им правильную команду, не говоря уже о том, что практически невозможно дождаться массового «железного» бунта, потому что робот не совсем знаком с подобными задачами, а чтобы объяснить суть такой коллективной задачи, понадобятся десятки тысяч человеко-часов и миллионы строк машинного кода…