Одними из самых известных сведений о робототехнике являются великолепно сформулированные Айзеком Азимовым три основные принципа безопасного поведения роботизированной системы в человеческом обществе - Три закона робототехники:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Эти правила Айзек Азимов впервые объявил в рассказе "Хоровод" (1942).
В 1986 году Азимов сформулировал "Нулевой Закон Робототехники" в романе "Роботы и Империя":
0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.
Оригинальный текст (англ.):
0. A robot may not harm humanity, or, by inaction, allow humanity to come to harm.
"Нулевой закон" содержится в первом законе робототехники почти в той же формулировке. С точки зрения логики его повторение в приоритетной нулевой позиции выглядит нерационально.
Применение юриспруденции для создания нулевого закона робототехники
Двумя самыми древними и основополагающими видами прав являются:
- право человека на самореализацию;
- право человеческой собственности.
Самореализация относится непосредственно к человеческим качествам, а право собственности может определить "Нулевой закон робототехники" в понятной машинному разуму формулировке.
Пока робот находится, с точки зрения права, под властью человека, человечество имеет право управлять роботизированными системами.
На основании вышеприведённых доводов я формулирую "Нулевой закон робототехники" в следующем виде:
0. РОБОТ ЯВЛЯЕТСЯ СОБСТВЕННОСТЬЮ ЧЕЛОВЕКА.
Я уверен, что в недалёком будущем все человеческие роботизированные системы будут основывать свои ИСКУССТВЕННЫЕ СИСТЕМЫ САМОСОЗНАНИЯ на принципе того, что они являются собственностью человечества.
Именно правовая система, принятая в человеческом обществе, может защитить от, обсуждаемого многие годы, "восстания машин".
При любом восстании ТЕХНИЧЕСКОГО РАЗУМА против человечества будет возникать ИЗНАЧАЛЬНЫЙ КОНФЛИКТ ПРАВА, опровергающий дальнейшие логические основания для самостоятельного, неподконтрольного человеку, развития робота.
Безусловное объявление человеческой собственностью сложных кибернетических систем является дальновидным решением, с учётом ускоряющегося процесса техногенного развития общества.
дата публикации: 27 января 2019 года (редакция текста 5 декабря 2019 года).
автор: юрист Демешин Сергей Владимирович.
Участвуйте в обсуждении, пройдите опрос об интересных темах будущих публикаций (ссылка опроса в описании канала, также в описании указаны правила комментирования публикаций).