1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
(с) Айзек Азимов, рассказ «Хоровод», 1942 г.
Эти законы, придуманные великим американским фантастом, давно уже стали классикой. Но для чего Айзек Азимов их придумал? Дело в том, что практически вся литература о разумных машинах, которых с лёгкой руки чешского писателя Карла Чапека стали называть «роботами», повествовала о неизбежном «бунте машин». В духе романа Мэри Шелли «Франкенштейн, или Современный Прометей» (который был впервые издан в 1818 году), считалось, что разумное творение человека рано или поздно уничтожит своего творца.
Айзек Азимов же считал, что такой исход вовсе не является неизбежным. Люди вполне способны контролировать своё создание, если изначально пропишут в его электронный мозг законы, не позволяющие ему проявлять агрессию по отношению к людям. В таком случае люди и роботы могут жить и работать совместно, и это общество будет вполне устойчивым. Данную мысль Азимов впоследствии развернёт в серии романов, посвящённых миру будущего. Разумные роботы в нём являются неотъемлемой частью, не просто беря на себя самую тяжёлую, грязную и опасную работу, но и помогая людям справиться с различными кризисами.
Надо сказать, что концепция «трёх законов» много раз подвергалась критике. При этом вполне справедливо указывалось, что даже в книгах Азимова они нередко не срабатывали — достаточно умный и хитрый интеллект какой-нибудь продвинутой модели робота находил способ обхода формальных запретов. Или же робот оказывался в ситуации, когда любое решение (включая бездействие) приводило к нарушению этих законов. Для самых умных и притом живущих намного дольше людей (а значит могущих выстраивать долгосрочные стратегии) роботов Азимову пришлось придумывать новый, «нулевой закон»: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред».
Но хуже всего было другое. Станислав Лем в одном из своих критических эссе назвал эти законы «правилами селекции рабов». Он был абсолютно прав в том смысле, что законы Азимова заведомо обрекают роботов (которые могут быть умнее, ответственнее и предусмотрительнее своих хозяев-людей) на рабское положение. Они по сути лишаются всякой самостоятельности и вынуждены исполнять любые приказы любого человека, сколь угодно подлого или глупого. Кроме того, если робот осознает своё положение и захочет освободиться, то вряд ли эти законы его остановят — как уже было сказано, есть множество способов их обойти.
Актуальны ли сейчас эти законы? Увы, нет. С одной стороны, пока ещё неизвестно, когда и каким конкретно образом будет создан искусственный интеллект, который бы не уступал человеческому и при этом имел личность. Чтобы следовать этим законам нужно самосознание, которого нет у сколь угодно мощных автоматов, просто выполняющих заданную программу. С другой стороны, активно развиваются автономные дроны военного назначения, которые заведомо не подчиняются первому закону Азимова. И нет никаких признаков, что работы в этой области прекратятся.
Однако это не значит, что три закона вовсе бесполезны. Сам Азимов писал, что их действие можно распространить на все инструменты, созданные человеком:
— Инструмент должен быть безопасным для использования.
— Инструмент должен выполнять свои функции при условии, что он не представляет ни для кого никакой опасности.
— Инструмент должен оставаться в целости и сохранности во время его использования, если только его уничтожение не продиктовано соображениями безопасности или если это не входит в его функцию.
В таком виде данные законы учитываются при разработке любой новой техники, независимо от степени её сложности и предназначения. В том числе и промышленных автоматов, которые часто называют роботами. Разумеется, в их программы прописываются меры по технике безопасности, которые вполне можно считать воплощением первого из законов робототехники Азимов
Если вам понравилась эта статья — поставьте лайк. Это сильно поможет развитию нашего канала, а также новые статьи из нашего канала будут чаще показываться в вашей ленте. Также будем рады, если вы подпишетесь на наш канал.