21 апреля 2021 года Высший орган исполнительной власти Евросоюза (Еврокомиссия) предложил ограничить использование искусственного интеллекта (ИИ) в сферах, где технология может причинить серьезный вред обществу.
К «высокорисковым» способам применения ИИ Еврокомиссия отнесла, в частности, кредитный скоринг, автоматизированную оценку тестов в сфере образования, ПО для найма сотрудников, роботизированную хирургию и использование алгоритмов в сферах юриспруденции и охраны правопорядка, Чтобы попасть на рынок, такие технологические решения должны будут соответствовать строгим критериям точности, безопасности, качества данных и открытости для пользователей и регуляторов. За нарушение новых правил установлены огромные штрафы.
А особо важно, на мой взгляд, то, что Еврокомиссия предложила запретить алгоритмы, которые «манипулируют поведением человека, чтобы обойти его свободу выбора». В статье 4 проекта Постановления перечисляются практики, которые противоречат ценностям Европейского Союза или могут нарушать фундаментальные права человека. Среди таких практик названо использование искусственного интеллекта для манипулирования сознанием и поведением, для установления слабых сторон определенных социальных групп, всеобщие системы слежки, а также применение систем социального кредита (social scoring). При этом для систем социального кредита, в отличие от иных практик, не предусмотрены возможные исключения для использования.
При этом ИИ-решения, которые представляют «минимальный риск» для общества, эксперты ЕС предлагают никак не регулировать. По их словам, к этой категории относится «подавляющее большинство систем искусственного интеллекта».
Как отметил Forbes, эксперты считают, что новые правила сделать разработку ИИ в Европе чрезвычайно дорогой и даст преимущество фирмам США и КНР. Однако не всё так просто. Ведь проект Постановления устанавливает экстерриториальный принцип правового регулирования и предусмотренные обязанности относятся к провайдеру ИИ, который находится и за пределами ЕС. В данном случае провайдер ИИ с высоким риском должен назначить своего представителя в ЕС.
Такие большие издержки для внешних поставщиков решений ИИ будут создавать преимущества для европейских разработчиков. Институциональные барьеры для представителей иностранного малого и среднего бизнеса будут слишком велики, поэтому на рынке ЕС смогут остаться только крупные иностранные компании. А для них Еврокомиссия предусмотрела инструменты давления. Так, за несоответствие регулированию можно получить административный штраф в сумме до 20 млн евро, а в случае предприятий – до 4% от оборота на мировых рынках за предыдущий отчетный период (статья 63 Постановления). В случае нарушения такими компаниями требований Постановления (к примеру вывод на рынок запрещенного ИИ), штраф может доходить до 10 миллиардов евро.
При этом политика стран-членов ЕС будет направлена на стимулирование малого и среднего бизнеса, так как в самом Европейском Союзе нет технологических гигантов типа Google, Amazon или Alibaba, на которых можно было бы сделать ставку. В дополнение к финансовой помощи, европейские разработчики и провайдеры ИИ будут получать доступ к Цифровому Хабу (Digital Hub), Оборудованию для тестирования (Testing Experimentation Facilities) и качественным датасетам. В соответствии со статьей 46 проекта Постановления Еврокомиссия должна будет утвердить порядок, а также плату за пользование такой инфраструктурой. И думается, что ЕС использует подход, уже успешнно апробированный для сельхозпроизводителей, по которому большие компании должны будут платить за доступ к инфраструктуре или её создание гораздо больше. Европейские стартапы же могут получить бесплатный доступ. Описанный подход к регулированию позволит создать более привилегированные условия для европейских разработчиков и провайдеров ИИ.
Проигрывая в гонке ИИ, Европейский Союз вынужден создавать дополнительное регулирование, которое бы позволило, с одной стороны, приостановить экспансию технологических гигантов, а, с другой, поддержать европейских производителей.
Повышенные этические стандарты в отношении ИИ являются попыткой сформировать свой бренд ИИ. ЕС будет сложно стать мировым лидером по разработкам в сфере ИИ, однако у ЕС есть возможность стать лидером по этическим стандартам и подходам к регулированию ИИ, которые могут быть востребованы во всем мире. Поскольку большинству НОРМАЛЬНЫХ людей хочется, чтобы системы ИИ создавались для пользы людей и так, чтобы люди могли им доверять! А для этого необходимо реализовывать при разработках таких систем принцип поддержания достаточного контроля за их работой со стороны человека. Машине нельзя доверять решение, будет ли человек жить или умрет!
Я уважаю европейских политиков за их твёрдую приверженность человекоцентричной модели развития ИИ, впервые заявленной ещё в 2019 году в докладах «White Paper on artificial intelligence - A European approach to excellence and trust» и "Ethics Guidelines for Trustworthy Artificial Intelligence" и развитой в 2020 году в "White Paper on Artificial Intelligence – A European Approach to Excellence and Trust".
Европейские политики имеют смелость заявить - ИИ должен помогать людям и делать их жизни лучше, а не ухудшать её! И уж тем более ИИ не должен использоваться для манипулирования людьми! Пусть ИИ управляют производственными процессами, делают их предикативную аналитику и т.п. Хотя и в этих то направлениях внедрение ИИ приведёт к значительному повышению безработицы, однако в таких применениях ИИ СЛУЖИТ ЛЮДЯМ, а не властвует над ними! И хотя страны ЕС действительно могут проиграть в гонке развития ИИ, зато европейцы выиграют в главном - они сохранят примат интересов людей - причём обычных людей, а не только сильных мира сего - над машинами! И может быть при таком подходе именно европейцы лет через 30-50 останутся последними свободными людьми на планете.
А парадокс этой ситуации в том, что для того, чтобы уцелеть и отстоять свои права ПРАВИТЬ МАШИНАМИ И ИСПОЛЬЗОВАТЬ ИХ, а не оказаться заменёнными ими, европейцам придётся активно развивать технологии ИИ в военной области. И дай им Бог суметь сохранить свободу людей и их главенство над даже самыми умными ИИ!