Уникальный мир робототехники Айзека Азимова завораживает читателей всего мира. И все надеются на соблюдение роботами законов робототехники, сформулированных Азимовым в 1942 году .
Стремление авторов тех лет успокоить людей, опасающихся захвата человечества роботами, выражалось в формулировании гуманных концепций и декларировании вечной преданности роботов человеку.
В 1986 году Айзек Азимов сформулировал закон высшего приоритета - нулевой закон робототехники. Писатель фантастических предсказаний перенес в "нулевой" закон текст первого закона, расширив его до применения ко всему человечеству:
0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.
Оригинальный текст (англ.)
0. A robot may not harm humanity, or, by inaction, allow humanity to come to harm.
Совершенно понятны опасения того, что роботы в своём развитии превзойдут человеческие способности и станут управлять людьми.
Может и стали бы, только кто же им позволит?
Роботизированные системы могут быть опасны для человека, только в случае допущения алгоритмических ошибок в системе принятия решений и системе самостоятельного контроля.
Парадокс законов робототехники Азимова
Существует имитация логики, следующая из "нулевого" закона Азимова, согласно которой, робот может принять решение об ограничении свободы людей, если будет считать обоснованным факт вредоносного воздействия людей на самих себя.
Руководствуясь "нулевым" законом, робот должен будет предотвратить нанесение вреда человечеству, осуществляемое самим человечеством, если факт существования такого вреда будет установлен роботом.
Абсурд?
В этой статье ещё не рассматривается само понятие "вреда человечеству" - очень распространённая тема среди роботических законоведов. О том, что такое вред в безошибочном определении, спорят роботические и человеческие законоведы.
Правильно настроенная роботизированная система мало интересуется такими понятиями, как "человечество" и "вред".
Обладая самосознанием, робот мог бы вдаваться в детали справедливости существования человеческого общества, но для любого самосознания самым важным является определение самого себя и только затем, определяется своё отношение к внешним явлениям.
Робот должен выяснить вначале кем он является.
В трёх законах робототехники Айзека Азимова сказано, что должен делать или не делать робот. Ни одного слова не сказано о том, кем или чем является машинное самосознание.
Если у машинного разума отсутствует самосознание, то такой системе совершенно безразлично человечество и его сложности существования.
Следовательно, "нулевой" закон робототехники Айзека Азимова, с точки зрения современного понимания роботизированных систем, сформулирован неоптимально - в нем отсутствует логическая самозащита от взлома методом "абсурда" и нет отправных точек для определения своей сути роботом.
Применение правовой системы в "нулевом" законе робототехники
Нужно задать вопрос: "Робот в человеческом обществе находится в области правового регулирования или нет?"
Любой человеческий робот выполняет действия, регулируемые человеческим законодательством, даже в военных действиях.
Любой человек может ответить на вопрос кем он является с точки зрения правового статуса: "Человек является гражданином какой-нибудь страны."
А, кем является робот?
Чтобы ответить на этот вопрос я предлагаю применить самый древний вид права и сформулировать "нулевой" закон робототехники так:
0. РОБОТ ЯВЛЯЕТСЯ СОБСТВЕННОСТЬЮ ЧЕЛОВЕКА.
Может ли собственность принимать решения о будущем своего владельца? - НЕТ.
Тем, кто опасается "восстания машин" можно будет сообщить на основании вышеуказанного современного "нулевого" закона робототехники, что "восстание" отменяется по причине его правовой необоснованности.
Писателям-фантастам следует правильно пользоваться директивами высшего приоритета при формулировании своих установок будущего.
В далёком 1986 году самым важным было установить дружественное понимание робототехники, поэтому Айзек Азимов сформулировал по-своему.
В 2019 году важным моментом является внедрение в общество систем искусственного интеллекта, являющихся предпосылками для развития машинного самосознания, поэтому я формулирую "нулевой" закон робототехники с точки зрения права собственности.
29 января 2019 года (редакция текста 5 декабря 2019 года).
автор: юрист Демешин Сергей Владимирович.
Участвуйте в обсуждении, пройдите опрос об интересных темах будущих публикаций (ссылка опроса в описании канала, также в описании указаны правила комментирования публикаций).