Использование роботов, в частности военных роботов, способных преднамеренно причинять вред и обладающих все большей степенью автономии вызывает вопросы в отношении установленных норм права и ответственности.
Если предположить, что мы можем запрограммировать мораль в роботов, в первую очередь, используя военное законодательство, как поведенческую основу, то это представляется разумным или, по крайней мере, более управляемым, чем попытка запрограммировать роботов в гораздо более широком спектре гражданского и уголовного законодательства.
Но что произойдет, если робот совершит какое-то действие вне рамок своей программы - кто же тогда будет отвечать за это действие?
Ответ, возможно, зависит от причины, является ли действие результатом программной ошибки или сбоя, несчастного случая или намеренного неправильного использования. Но в любом случае, сегодня нам будет трудно переложить вину на наши машины; тем не менее, по мере того, как роботы станут более автономными, можно будет рассмотреть вопрос о признании роботов виновными в качестве полноценных военных единиц.
Роботы как законные военные квази-личности
Существует несколько важных аспектов закона, которые могут иметь отношение к роботам.
В самом прямом смысле этого слова, закон имеет высокоразвитый набор случаев и принципов, которые применяются к ответственности за продукцию, и их можно применять к обращению с роботами как с коммерческими продуктами.
По мере приближения роботов к более сложным человеческим характеристикам, представляется вероятным, что они могут рассматриваться законом как квази-личности, обладающие лишь частичными правами и обязанностями.
Ответственность: Роботы как продукты
В системе права проводится различие между уголовным и гражданским правом. Гражданское право традиционно называется деликтным правом и касается прежде всего имущественных прав и нарушений, таких как причинение ущерба имуществу или иного ущерба, и стремится к справедливости, заставляя правонарушителей компенсировать ущерб тем, кто пострадал от его причинения. Уголовное право рассматривает то, что мы часто называем моральным правонарушением, воровством, убийством и т.д., и стремится к справедливости, наказывая нарушителя.
Разница в том, что кто-то строит игрушечного робота, который стреляет маленькими пластиковыми ракетами, что приводит к несчастному случаю во время детской игры, и кто-то, кто строит робота со встроенной бомбой, которая может задеть людей на улице.
В каждом случае есть робот, причиняющий вред здоровью, но в первом случае родители детей подают иск против производителя с требованием денежной компенсации, а во втором случае государство находит, арестовывает, преследует и наказывает виновных.
Гражданское право является более актуальным для роботов в том виде, в каком они существуют сейчас. То есть можно предположить, что роботы – это технологические артефакты, ничем не отличающиеся от тостеров и машин, и все еще существуют правовые и моральные вопросы, связанные с их производством и использованием.
Стандарты ответственности
Неосторожность подразумевает, что производитель не сделал то, что было морально или юридически необходимо, и поэтому он может быть привлечен к ответственности за определенный вред, причиненный его продукцией – в юридической терминологии это называется разумной осторожностью. Юридически виновные формы халатности в случаях ответственности за качество продукции зависят либо от непредупреждения, либо от отсутствия должного ухода.
Дифференциальное распределение может быть полезным инструментом при рассмотрении вопросов этики роботов. Например, неправильно разработанный алгоритм распознавания объектов может привести к повреждению робота, а также к повреждению камеры, слабому аккумулятору, неисправному приводу и так далее. Это означает, что инженеры должны тщательно обдумать, как подсистема, над которой они работают, может взаимодействовать с другими подсистемами.
Потенциальная неспособность обеспечить надлежащий уход и взаимная ответственность за обеспечение должного ухода, возможно, является центральным вопросом в практической этике роботов.
Глубокая и тревожная проблема заключается в том, что такое надлежащий уход и какие риски могут быть предсказуемыми или, в принципе, непредсказуемыми. Это связано со сложностью потенциальных будущих взаимодействий и относительной автономией продукта после его производства.
Сложные роботы, способные взаимодействовать с людьми и миром очень сложными способами, и которые могут разрабатывать и изучать новые способы действия, выходящие за рамки их предполагаемой конструкции, представляют собой сложное будущее, в котором можно предвидеть риски.
Преступление и наказание
Преступность и наказание являются центральными понятиями как права, так и морали, но они могут показаться неуместными при обсуждении этики роботов.
Существует две основные проблемы с применением уголовного права к роботам:
- преступные действия - умышленное действие робота?
- как можно наказать робота?
Без нравственной воли может быть вред, но не вина. Таким образом, не возникает долга перед обществом, если только нет умышленности; это просто несчастный случай, но не преступление.
Этика роботов должна быть связана с установлением стандартов для робототехники, которые будут гарантировать, что будут приняты соответствующие меры предосторожности.
