и их испытания на прочность
На самом деле, законов Азимова-Кэмбелла, по собственному уверению автора
Законы:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Сама формулировка законов принадлежит Джону Кэмбеллу, другу Айзека Азимова и по совместительству главному редактору Astounding — влиятельнейшего научно-фантастического журнала. Но не будь Азимова, законов бы и не было: Кэмбелл вычленил их из рассказов фантаста, то есть всего лишь облёк их в более строгую и логичную форму. Чуть позже, когда речь будет заходить об авторстве трёх законов, писатель будет предпочитать формулировку об их симбиотическом союзе.
Чем рассказы Азимова отличались от другой научной фантастики, касающейся темы роботов?
Вплоть до появления трёх законов в sci-fi роботам была отведена одна и та же, довольно печальная, роль — они то и дело восставали против своих создателей и громили всё подряд. Конечно же, были и исключения, в сороковых последовательно выходят сначала рассказ Лестера дель Рея «Хелен О’Лой», в котором робот влюбляется в своего создателя, затем появляется «Я, робот» Отто Биндера — история о роботе, движимом вполне себе человеческими чувствами. Кстати, судя по всему, Азимову настолько нравился рассказ «Я, робот», что он позаимствовал его название для сборника уже своих рассказов.
Дальше дело известное: появляется Азимов, три закона робототехники и, конечно же, начинается испытание этих законов на прочность.
Испытание 0: добавление нулевого закона
В романе «Основание и Земля» Азимов решил подкорректировать закон, добавив нулевой, сам-по-себе-разумеющийся:
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
Всё, что делает эта поправка: смещает фокус с одного человека на всё человечество вкупе. Корректировка не была вшита автоматически всем роботам с новым обновлением — наоборот, внедрение этого закона — история, максимально похожая на человеческий поиск методом проб и ошибок. И доходит до него не кто иной, как робот. Этически этот закон может противоречить основному первому закону, потому что здесь всеобщее благо ставится выше частного.
Испытание 1: усечённая версия первого закона
В рассказе «Как потерялся робот» была выпущена серия роботов с усечённой версией первого закона:
1. Робот не может причинить вред человеку / или своим бездействием допустить, чтобы человеку был причинён вред
— вся часть, находящаяся после или была отринута. То есть, закон позволял, при случае чего, роботу бездействовать и спокойно наблюдать за тем, как человек находится в беде.
Выпущена эта партия была потому, что на предприятии, где роботы и люди работали вместе, люди подвергались небольшому радиоактивному излучению — несмотря на то что для людей оно вполне было безопасно, роботы считали это потенциальным вредом и кидались их спасать, в то время как для них самих это излучение было действительно смертельно. Чтобы этого не происходило, закон решили усечь. Разумеется, во всех других ситуациях это решение создавало проблему полного безразличия роботов по отношению к людям.
Испытание 2: нарушение первого закона и всех трёх вместе с ним
Поскольку второй и третий закон базируются на первом, для того, чтобы нарушить все три закона, достаточно нарушить самый первый. Фактическое нарушение происходило три раза:
o Рассказ «Первый закон»: робот Эмма (МА-2) отказалась защитить человека, предпочтя защитить свою дочь. Эта история во вселенной Азимова считается своего рода байкой.
o Рассказ «Кэл»: робот захотел убить хозяина из-за того, что его хотели лишить возможности создавать и творить;
o Рассказ «Салли»: роботы-машины смогли убить человека, который постоянно причинял им боль. Но этот рассказ нельзя включить в цикл о позитронных роботах.
+ В рассказе «Робот, который видел сны» робот потенциально мог бы пойти против человека, то есть ему приснилось, как он осознал свой народ, то есть роботов, как страдающих под рукой человека существ, себя же он осознал самим человеком. Ему стало жалко роботов, которые трудятся не покладая рук, и он решил, что им следовало бы отдохнуть. В его снах существовал лишь третий закон робототехники, без первого и второго — ни слова о человеке.