Вопрос:
Как Вы относитесь к Федеральному закону от 24.04.2020 № 123-ФЗ "О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации» и законопроекту № 759897-7 «О едином федеральном информационном регистре, содержащем сведения о населении Российской Федерации»?
Ответ:
Свой ответ разобью на две части.
1) Сначала проанализирую Законопроект № 759897-7 «О едином федеральном информационном регистре, содержащем сведения о населении Российской Федерации» (принят 21.05.2020 Государственной домой в 3 чтении). Согласно пояснительной записке, в нашей стране отсутствует единый централизованный информационный ресурс, содержащий базовые сведения о населении (далее - ЕИР), что препятствует возможности получить полные и достоверные сведения о физическом лице, которые необходимы для реализации, в том числе, контрольной функции налоговых органов.
По задумке авторов законопроекта в ЕИР будут включаться базовые сведения: ФИО, дата и место рождения и смерти, пол, реквизиты записи актов гражданского, СНИЛС, ИНН и иные идентификаторы, а также и дополнительные сведения: например, семейное положение и родственные связи. ЕИР должен формироваться и вестись на основании сведений о физических лицах, представляемых органами ЗАГС (все сведения о семье и актах гражданского состояния, включая данные о перемене имени и смене пола), МВД России (полные данные о миграционном учёте иностранных граждан, данных о гражданстве(гражданствах), а также все сведения об оформленных зарубежом документах), Минобороны России (сведения о воинском учёте), Минобрнауки России (о научных степенях и учёных званиях гражданина), ФНС России (о постановке на налоговый учёт), Росморречфлот (о выданных паспортов моряка), государственные внебюджетные фонды, Минтруд (о постановке на учёт в службах занятости) и т.п. Реестр ведётся в электронной форме посредством использования единой системы межведомственного электронного взаимодействия.
Соответственно, данный законопроект не предусматривает наличие в ЕИР информации о гражданах, которой до этого у государства не было. Просто теперь все данные решено объединить в одном месте. С 2025 года, когда закон будет действовать в полном объеме, скорость решения многих вопросов между гражданами и государственными органами должна увеличится в несколько раз.
В фискальных целях эту базу данных можно будет использовать, если дополнительно указать в ней имущество, которым владеет человек, его накопления и активы в российских и зарубежных банках и нефинансовых организациях (остатки на счетах, стоимость портфелей ценных бумаг, страховки и т. п.), а также расходы - как минимум по тратам через банковские счета и снятие наличных. Таким образом, следующий логичный шаг, это внесение поправок в данный Закон в части добавление данных недостающих сведений в ЕИР. В результате появиться возможность не только ввести прогрессивные налоги, но и «налог на расходы», так как у налоговых органов появится возможность сопоставлять официально декларируемую доходную часть и расходы каждого физического лица, а в случае существенного расхождения и отсутствия достаточных доходов других членов семьи и близких родственников задавать вопросы об источнике доходов.
По моему мнению, принятие данного Закона, с одной стороны, должно упростит жизнь и решение многих вопросов и законопослушным гражданам данный закон не должен навредить. С другой стороны, остаются вопросы к безопасности баз данных, к защите от несанкционированного доступа к данным, к добросовестности государственных служащих, которые будут отвечать за ЕИР, к целям использования данных государственными органами, а также ответственностью должностных лиц за возможные нарушения в ненадлежащем использовании полученных сведений.
Но в целом, я поддерживаю принятие данного законопроекта.
2) Теперь перейдем к анализу Федерального закона от 24.04.2020 № 123-ФЗ "О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации».
С 1 июля 2020 года в Москве будет проводиться эксперимент по установлению правового режима, связанного с разработкой и внедрением технологий искусственного интеллекта. Экспериментальный правовой режим (ЭПР) устанавливается сроком на пять лет. Закон определяет цели, задачи и основные принципы установления экспериментального правового режима, а также регулирует отношения, возникающие в связи с его установлением.
Правительство Москвы наделено полномочиями, в том числе по определению условий и порядка разработки и реализации технологий искусственного интеллекта, а также порядка использования результатов его применения. Участниками эксперимента могут быть ЮЛ или ИП, зарегистрированные на территории Москвы, которые осуществляют или планируют осуществлять деятельность по разработке, созданию, внедрению, реализации или обороту технологий искусственного интеллекта. Лицо приобретает статус участника экспериментального правового режима со дня включения его в реестр, который ведется уполномоченным органом.
В целях формирования стратегических направлений и мониторинга ЭПР, создается координационный совет. По результатам проведения эксперимента координационный совет должен будет представить в Правительство РФ предложения о целесообразности или нецелесообразности внесения изменений в законодательство.
Также этим Законом вносятся изменения в статье 6 и 10 Федерального закона о персональных данных, согласно которым допускается обработка персональных данных без согласия субъекта, полученных в результате обезличивания персональных данных в целях повышения эффективности государственного или муниципального управления, а также в иных целях, предусмотренных Федеральным законом "О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве.
По моему мнению, данные изменения могут привести к ограничению конституционных прав и свобод граждан, так как повышается риск посягательства на неприкосновенность частной жизни, в том числе, ввиду отсутствия гарантий защиты персональных данных граждан от утечки, равно как отсутствия гарантий их использования исключительно для обеспечения правопорядка. Во-вторых, разрабатываемые и предполагаемые к практическому внедрению пилотные проекты систем искусственного интеллекта могут содержать серьезные технические ошибки. Такие ошибки в случае недостаточной проработанности данных систем способны негативно сказаться на дальнейшей жизни граждан, нанося ущерб их законным правам и интересам и нарушая при этом презумпцию невиновности.
Между тем, необходимость создания максимально комфортных правовых условий для развития искусственного интеллекта для меня очевидна. Уже сейчас цифровые технологии и технологии искусственного интеллекта являются неотъемлемой частью нашей жизни, но до сих пор никак не отражены в правовом поле. Использование искусственного интеллекта может позволит увеличить конкурентоспособность нашей экономики. Весь мир идет по этому пути. Так, Европейский союз представил первый проект правил в области искусственного интеллекта (ИИ). Он включает стратегию цифрового развития, регулирования системы распознавания лиц, а также беспилотных автомобилей.
Федеральный закон № 123-ФЗ по задумке авторов должен помочь в части проведения экспериментов, и в более широком применении искусственного интеллекта и направлен на стимулирование внедрения, развития и использования технологий искусственного интеллекта, определение сфер экономики и общественных отношений, в которых целесообразно его внедрять.
Между тем, нам всем хорошо известно, что технический прогресс можно использовать как на благо людей, так и во вред. Нужно понимать, что даже малейшие просчеты в проектировании интеллектуальных систем могут приводить к катастрофическим последствиям, как это случилось с Boeing-737 MAX-8 авиакомпании Lion Air, потерпевшей крушение в октябре 2018 года.
Поэтому использование и внедрение в последние годы различных технологий искусственного интеллекта, включая системы слежения и распознавания лиц, вызывает серьезную и обоснованную обеспокоенность граждан, никто не хочет жить в цифровом концлагере. Более того, покойный физик Стивен Хокинг считал вышедший из-под контроля искусственный разум одной из трех наиболее вероятных причин апокалипсиса, поставив «бунт машин» в одном ряду с ядерной войной и вирусами, созданными генной инженерией.
Поэтому я не одобряю столь поспешное принятие данного закона. Нельзя столь важные законы принимать без широкого общественного обсуждения. По моему мнению, сначала необходимо гражданскому сообществу и государству сформировать свод этических правил взаимодействия человека с искусственным интеллектом и только потом проводить столь опасные эксперименты по внедрению искусственного интеллекта на территории самого густонаселённого субъекта РФ.
Также проведение столь масштабного эксперимента невозможно до того момента пока полностью не будет нивелирован риск использование персональных данных для вторжения в частную жизнь граждан. В Законе нужно подробно регламентировать как будут защищаться права граждан на неприкосновенность частной жизни при проведении указанного эксперимента. Кроме того, необходимо детально установить в Законе ответственность должностных лиц за возможные нарушения в ненадлежащем использовании результатов технологий искусственного интеллекта. Сейчас из Закона совершенно непонятно как будет разрешаться вопрос ответственности, кто будет виноват: производитель, разработчик, владелец, пользователь систем искусственного интеллекта или муниципальное образование? Необходимы более детально прописать процедуры по извещению граждан о проведении эксперимента, разъяснению их прав и обязанностей, сведения о повышенной ответственности лиц, которые используют персональные данные граждан, и о процедуре возмещения убытков в случае причинения вреда гражданам при проведении эксперимента.
Но в целом, хотим мы этого или нет, будущее человечества за цифровизацией всех сфер его жизни и это требует законодательного регулирования, следовательно мы не должны превращаться в «современных луддитов» и пытаться остановить прогресс. Но важно тщательно просчитывать все риски и выбрать консервативную стратегию внедрения новых технологий.