Вопрос, конечно, провокационный. Разумеется, за действия роботов и возможный ущерб от их деятельности, в соответствии с действующим законодательством, будет нести ответственность владелец собственности (в нашем случае, собственность — это роботы). Следует вспомнить основной закон робототехники, который гласит, что робот является собственностью человека. Робот может быть сильно похож на человека, может всем демонстрировать свои «человеческие качества», но при этом он остается оборудованием и программой, а следовательно объектом интеллектуальных и других вещных прав. Идея робота-механизма и робота-программы существовала еще в 70-е годы прошлого века, какова их реализация сегодня.
Роботы с сфере услуг
Юристам, врачам и водителям люди доверяют самое ценное, что у них есть: жизнь, здоровье, и иногда, судьбоносные моменты. В этих сферах деятельности ведется настоящая гонка технологий и алгоритмов. Нишу срочно занимают крупные компании.
Совсем недавно в интернете начал свою работу робот-юрист Фёдор Нейронов (название у него такое). Робот Фёдор осуществляет консультации преимущественно по вопросам защиты прав потребителя, но скорее всего, это только начало его развития.
Нейронная сеть Фёдора обучалась на самой крупной в России базе данных из более чем 100 тысяч вопросов. Классический юрист может ответить максимум на 15-20 вопросов в день, рассказывают создатели Федора, а робот - на тысячи обращений, причем максимально подробно.
Российская газета - Федеральный выпуск №7492 (29)
Подобные консультационные модули будут появляться и в других вариантах и других сферах деятельности, раз в них заложен такой потенциал.
Уже несколько лет в России существует роботизированная хирургическая система Da Vinci, с помощью которой врачи провели уже много успешных операций. Эта система попала в поле зрения правительства и получила государственную поддержку развития.
«Роботические операции дают отличные результаты при минимуме осложнений и очень коротком периоде реабилитации, — приводит слова мэра Москвы Собянина «Вечерняя Москва». — На дополнительные средства больницы проведут техническое обслуживание роботов, купят дополнительные расходные материалы и лекарства, оплатят работу хирургов», — отметил мэр.
Как видно из этих примеров, роботы создаются и управляются человеком, состоят на балансе организаций, покупаются и продаются. Пока робот не начал принимать решение за человека катастрофической угрозы человечеству нет. Тем более, что различные роботы-консультанты во всем копируют человеческое поведение (точнее разработчики закладывают такие схемы) и руководствуются человеческими принципами, а также профессиональной этикой. Вот, например, по юридической и врачебной этике запрещается влиять на принятие решение клиентом (пациентом), можно только объяснить возможные последствия того или иного случая — это поведение закладывается и в машину. Там, где робот реагирует самостоятельно и есть вероятность аварийного случая еще ведется законотворческая работа.
Например, существуют роботизированные автомобили, разработаны целые проекты такси-роботов (БПТС) и каршеринга, но кто же их выпустит на дорогу без соответствующих изменений в правила дорожного движения. Кто несет ответственность ясно — владелец, а вот кто за рулем непонятно. Вариант роботизированного автомобиля был недавно представлен на конференции YAC 2018 в Москве. Так, что в некоторых случаях применение роботизированных технологий останавливает только законодательные недоработки. Конечно, многие люди, по человечески опасаются сбоев в работе, неправильной оценки ситуации, ошибочной работы алгоритмов. Чтобы не было, как говорилось в одном фильме: «Просили отвезти в Мадрид, а приехали в Мадрас».
Правовые вопросы возникающие при использовании роботов
Во-первых, там где есть источники повышенной опасности для людей применение роботов должно быть прямо разрешено законодательством и согласие должно быть подтверждено всеми пользователями. Также, при получении претензии, иска компанией, оказывающей робото-услуги у неё должна быть возможность подачи регрессного иска производителю для компенсации своих убытков.
Сразу становится ясно, что должны появиться юристы помогающие ограничить ответственность компаний и эксперты, создающие заключения о неработоспособности или неправильной работе алгоритмов робота, чтобы подать иск в суд на производителя.
Здесь, как раз есть затруднение. Самым эффективным способом защитить алгоритмы роботов — это объявить их коммерческой или государственной тайной. Если алгоритмы являются коммерческой тайной, то возникает сложность проведения экспертиз, кроме протоколирования результатов внешнего наблюдения: показания самописцев, свидетелей, средств видео-наблюдения и других мер. Определение подобных вопросов необходимо, для того чтобы определить частный случай сбоя или устойчивую ошибку алгоритма для отзыва всей партии роботов. Зачем такая экспертиза нужна компании оказывающей услуги с помощью роботов? Например, у компании есть подозрения, что в действиях робота есть алгоритмический сбой, который может проявиться в будущем. Доказать подобное без раскрытия алгоритмов нельзя, а повторять аварийные ситуации для накопления статистики и, в связи с этим, нести убытки компания не хочет. Нужен специалист по решению подобных вопросов.
Во-вторых, каждый робот в механическом или программном виде является источником получения информации о пользователе. Эта информация накапливается внутри компании и составляет так называемые «малые Большие Данные». В законодательстве, конечно, есть закон о защите персональных данных, но вопросы снятия поведенческих реакций он не регулирует. Роботы могут быть, в рамках закона, хорошим инструментом для изучения сегментов населения и могут даже представлять интерес для различных деятельных структур. В законотворческой инициативе неоднократно возникают предложения о создании единой системы госконтроля. Там, где происходит сбор цифровых данных должен быть государственный контроль, отдельные компании, которые «знали всё» остались в прошлом веке. Поэтому, целесообразно при введении в эксплуатацию новой робото-системы, регистрировать и подключать её в единую государственную сеть по контролю за сбором и обработкой Больших Данных. Также, подобная государственная сеть может контролировать все модули получения персональных данных пользователей. Конечно, возникают вопросы коммерческой тайны и неприкосновенности личной информации, но все это должно регулироваться прогрессивными концепциями глобального информационного пространства. Для этого требуется не только доработка законодательства, но и применение новых защищенных стандартов связи.
На законотворческой перспективе можно закончить рассмотрение вопросов ответственности человека, за действия робота, но это далеко не весь круг вопросов по данной теме. Это только основные, обзорные, положения.
18 июня 2018 года.
автор: юрист Демешин Сергей Владимирович.
Задавайте вопросы, пишите комментарии, пройдите опрос об интересных темах будущих публикаций (ссылка опроса в описании канала, также в описании указаны правила комментирования публикаций).