Читать Начало Части 3
В настоящее время и в ближайшем будущем появление потенциально опасного робота не может рассматриваться как обыденное явление, с которым представители широкой общественности должны просто мириться и интегрироваться в свою жизнь. Напротив, освобождение робота в реальный мир все еще рассматривается как исключительный риск, поэтому любой вред, причиненный роботом, обычно приписывается оператору, если его причинная связь может быть доказана.
Но в обозримом будущем ситуация может измениться.
В Интернете повсеместное распространение поисковых систем, занимающихся обработкой данных, вероятно, сделало их обычным явлением, в результате чего большинство пользователей соглашаются с присущими им рисками.
Действительно, пользователи, заказывающие товары и услуги у онлайновых торговцев и ищущие информацию с помощью поисковых систем, полностью осознают тот факт, что интеллектуальные агенты, управляющие этими услугами Интернета, хранят свои личные данные и могут впоследствии использовать эти данные в нарушение личных прав пользователей.
Вполне возможно, что в будущем самоходные автомобили также станут “обычными” партнерами по взаимодействию. Как только они будут рассматриваться как повседневная часть дорожного движения, столкновение с такими транспортными средствами станет нормальным риском для людей, и оператор самодвижущегося автомобиля не будет нести уголовную ответственность за его предсказуемые неисправности, а только за ущерб, причиненный в результате предотвратимых ошибок в конструкции, программировании или эксплуатации. Однако даже до наступления этого срока мы могли бы принять решение ограничить уголовную ответственность операторов, уменьшив их обязанность проявлять осторожность, в частности в отношении правила, согласно которому нельзя подвергать других рискам, которые невозможно контролировать.
Даже в тех случаях, когда можно предположить, что роботы могут совершать фатальные ошибки из-за неправильного самообучения, обязанность операторов (по крайней мере некоторых) роботов может быть сведена к использованию наилучших знаний и технологий в производстве, программировании, тестировании и контроле за ними. Производители роботов должны тщательно тестировать их и внимательно наблюдать, в частности, за их автономными процессами обучения. Кроме того, они должны отслеживать отзывы клиентов и немедленно реагировать на сообщения о вредоносном поведении.
Например, если недавно введенный в эксплуатацию автомобиль, управляемый самостоятельно, по неизвестным причинам имеет отдельные случаи неисправности, производитель должен будет изучить возможные причины. Если эти инциденты не могут быть объяснены неправильным обращением или вмешательством третьих лиц, и, если проблема не может быть решена путем перепрограммирования автомобиля, производитель должен будет снять автомобиль с продажи. Если производитель не сделает этого и автомобиль причинит вред людям, он будет нести ответственность за небрежное или даже умышленное нанесение телесных повреждений и т.д.
Операторы, соблюдающие эти строгие стандарты, могут считать себя выполнившими свои обязанности по уходу, даже если они (вместе со всеми другими) знают, что определенные риски сохраняются. Если робот в силу своей автономности процесса обучения отклоняется от ожидаемого, вред, причиняемый такими (обычно предсказуемыми) отклонениями, будет приписываться “обществу”, которое соглашается принять на себя определенные остаточные риски, неизбежно связанные с использованием Интеллектуальных агентов.
Лицо, которому причинен ущерб в результате такого нарушения функционирования, будет, следовательно, рассматриваться как жертва социально приемлемого риска, а не как жертва небрежного деяния какого-либо конкретного лица.
В заключение: Проблема политики в Германии и Соединенных Штатах Америки
Перспектива того, что полностью автономные автомобили станут частью повседневной жизни, возможно, еще несколько лет спустя.
- В Германии технология, способная управлять автомобилем, такая как автопилот или парковочные устройства, может использоваться только в том случае, если человек, находящийся в автомобиле, способен взять на себя функцию рулевого управления в случае чрезвычайной ситуации.
- В Соединенных Штатах, где в настоящее время проходят испытания самоходные автомобили, руководящие принципы политики и законодательство требуют наличия в автомобиле водителя, обладающего надлежащими правами, и готовности к вмешательству в случае возникновения технической проблемы.
Такие практические вопросы могут быть более актуальными для современных юристов, чем те, которые рассматриваются в данной статье, но их легче решить в рамках доктрины традиционного уголовного права. Напротив, полностью автономные автомобили и другие интеллектуальные агенты доводят традиционную доктрину уголовного права до предела.
В настоящее время самодвижущиеся автомобили не могут быть привлечены к уголовной ответственности, поскольку они не способны действовать виновно (ни в каком традиционном смысле) и не понимают, что такое наказание. Однако в будущем роботы могут стать настолько похожими на людей, что они, как и мы, смогут “почувствовать” последствия уголовного наказания.
Как только этот этап будет достигнут, вполне возможно, имеет смысл рассмотреть вопрос о наказании роботов. Как в Германии, так и в Соединенных Штатах Америки операторы самоходных автомобилей могут быть осуждены за травмы или убийство по неосторожности, если автомобиль причиняет травмы или смерть в результате предсказуемого сбоя в работе. В этом случае к операторам может быть применена уголовная ответственность в соответствии с общими правилами, даже если их небрежность заключается лишь в неспособности должным образом реагировать на сообщения об опасных инцидентах. Однако предвидеть и контролировать поведение самообучающихся роботов может оказаться сложным для операторов настолько, что может потребоваться повысить требования к уголовной ответственности за халатность, чтобы риск наказания не помешал дальнейшему развитию и использованию роботов. Если общество воспримет удобство, возможности и гарантии безопасности, связанные с вождением самоходных автомобилей, оно также должно быть готово принять тот факт, что (возможно, очень редкие случаи) неожиданные действия роботов приведут к предсказуемому ущербу.
Однако допуск к неисправностям робота должен быть строго ограничен. Сохраняется задача обеспечения справедливого баланса между интересами общества в содействии инновациям и опасностями, связанными с использованием интеллектуальных агентов, обладающих разрушительным потенциалом. Одним из факторов, который следует учитывать в процессе балансировки, является социальная польза робота в отношении его потенциального вреда. При таком утилитарном подходе стандарты осторожности должны быть более строгими по отношению к роботам, имеющим меньшую социальную ценность, таким как беспилотники или игрушки. С другой стороны, в отношении самоходных автомобилей риск, сохраняющийся после тщательного тестирования и контроля, может быть нивелирован общими выгодами от использования таких автомобилей.