ЮНЕСКО: проект Рекомендации об этических аспектах искусственного интеллекта
I. ИСТОРИЯ ВОПРОСА
1. Исполнительный совет на своей 206-й сессии принял к сведению предварительное ис- следование технических и правовых аспектов целесообразности принятия нормативного акта об этических аспектах искусственного интеллекта (ИИ) и постановил включить данный пункт в повестку дня 40-й сессии Генеральной конференции (решение 206 ЕХ/42). Генеральная конференция в своей резолюции 40 С/37 предложила Генеральному директору представить ей на ее 41-й сессии проект текста рекомендации об этических аспектах искусственного интеллекта в соответствии с Правилами процедуры, касающимися рекомендаций для государств- членов и международных конвенций, на которых распространяется действие положений пункта 4 статьи IV Устава («Правила процедуры»).
2. В целях подготовки проекта текста рекомендации Исполнительный совет на своей 207-й сессии рассмотрел доклад о работе других международных организаций и конвенций по различным аспектам ИИ и призвал Генерального директора и далее учитывать осуществ- ляемую в рамках системы Организации Объединенных Наций деятельность в области искус- ственного интеллекта (ИИ) (207 EX/5.I.A), имеющую отношение к разработке глобального нор- мативного акта об этических аспектах ИИ, во избежание дублирования усилий и в знак ува- жения к полномочиям других организаций/учреждений, уделяя особое внимание аспектам, относящимся к мандату ЮНЕСКО, и используя возможности синергетического взаимодей- ствия (решение 207 EX/5.I.A).
3. В соответствии с содержащимся в приложении III к документу 40 С/67 планом в марте 2020 г. была создана специальная группа экспертов (СГЭ) (совещание категории VI) для раз- работки первого проекта Рекомендации. В состав группы вошли 24 независимых эксперта, назначенных на основе принципа сбалансированной географической представленности всех регионов ЮНЕСКО. В период с марта по май 2020 г. в связи с пандемией Covid-19 СГЭ рабо- тала в виртуальном режиме в течение шести недель и подготовила первый вариант проекта Рекомендации.
4. С июня по август 2020 г. были проведены многосторонние консультации по первому ва- рианту проекта Рекомендации. Несмотря на связанные с пандемией трудности, партнеры со всего мира объединили усилия, с тем чтобы поддержать ЮНЕСКО и обеспечить широкий и инклюзивный процесс консультаций с участием большого круга заинтересованных сторон. В рамках этого процесса были проведены (i) открытая онлайн-консультация, в ходе которой было получено более 50 тыс. замечаний от 600 участников, (ii) одиннадцать региональных и субрегиональных виртуальных консультаций, в том числе две с молодежью, организованных во всех регионах ЮНЕСКО совместно с принимающими странами и учреждениями и привлек- ших более 500 участников, и (iii) организованные партнерами открытые многосторонние дис- куссионные семинары с участием граждан, собравшие 500 участников. Прилагались также усилия по проведению консультаций с частным сектором, в особенности с крупными цифро- выми платформами, которые также представили подробные предложения. Совместно с Меж- дународной торговой палатой было организовано специальное совещание с участием боль- шой группы компаний.
5. Кроме того, в июле 2020 г. в рамках межсессионного совещания комитета высокого уровня по программам (КВУП) была проведена консультация по первому варианту проекта Рекомендации со структурами системы ООН. Все учреждения заявили о всецелой поддержке данной инициативы и признали важное значение работы ЮНЕСКО по разработке этой Реко- мендации, а также ее актуальность для системы ООН, государств-членов и других заинтере- сованных сторон. Сектор социальных и гуманитарных наук занимался всеми аспектами про- цесса консультаций и поддерживал СГЭ в работе по учету большого числа замечаний к про- екту Рекомендации.
6. Исполнительный совет на своей 210-й сессии (210 ЕХ/35) принял предложения относи- тельно приглашений на межправительственные совещания экспертов (категория II), касаю- щиеся проекта данной Рекомендации (решение 210 ЕХ/35).
II. ДОКЛАД О ПРОЦЕДУРЕ РАЗРАБОТКИ ПРОЕКТА РЕКОМЕНДАЦИИ
7. В соответствии с пунктом 2 статьи 10 Правил процедуры в сентябре 2020 г. государ- ствам-членам было направлено циркулярное письмо (CL/4327), содержащее предваритель- ный доклад Генерального директора и первоначальный проект Рекомендации об этических аспектах искусственного интеллекта, с предложением представить замечания.
8. В соответствии с пунктом 3 статьи 10 Правил процедуры проект текста Рекомендации и предварительный доклад были пересмотрены с учетом замечаний, полученных от 48 госу- дарств-членов и двух наблюдателей. В период с января по февраль 2021 г. в рамках инклю- зивного процесса с участием всех секторов ЮНЕСКО Сектор социальных и гуманитарных наук рассмотрел и обобщил полученные замечания. В марте 2021 г. государствам-членам было направлено циркулярное письмо (CL/4347) с заключительным докладом Генерального директора, содержащим проект текста Рекомендации, разработанный на основе полученных замечаний.
9. Во исполнение резолюции 40 C/37 и в соответствии с пунктом 4 статьи 10 Правил про- цедуры в январе 2021 г. Генеральный директор разослала циркулярное письмо (CL/4337), со- держащее приглашение на межправительственное совещание экспертов (категория II), созы- ваемое для окончательной доработки проекта Рекомендации. Межправительственное сове- щание под председательством посла и постоянного представителя Кувейта при ЮНЕСКО проходило в два этапа: с 26 по 30 апреля 2021 г. и с 21 по 25 июня 2021 г. Ввиду связанных с пандемией Covid-19 ограничений межправительственное совещание было проведено в ре- жиме онлайн. В дополнение к очередным сессиям межправительственного совещания с 1 по 18 июня (на протяжении 12 дней) проводились межсессионные консультации в целях предо- ставления государствам-членам дополнительного времени для рассмотрения более чем 300 представленных государствами-членами поправок, обсуждения ключевых вопросов, об- мена мнениями и достижения консенсуса в отношении текста Рекомендации. В общей слож- ности в межправительственном совещании приняли участие более 300 экспертов по техниче- ским и правовым вопросам, представлявших 102 государства-члена, включая страны с низким и средним уровнем дохода (СНСД) и малые островные развивающиеся государства (МОСРГ), а также 49 наблюдателей, в том числе два государства, не являющиеся членами Организации. 25 июня участники межправительственного совещания экспертов приняли консенсусом со- держащийся в приложении к документу 41 С/23 проект Рекомендации, который был разослан государствам-членам циркулярным письмом (CL/4364) от августа 2021 г. и настоящим пред- ставляется Генеральной конференции на ее 41-й сессии.
10. В заключительном докладе, размещенном онлайн и направленном государствам-чле- нам циркулярным письмом (CL/4364) от августа 2021 г., отражены важнейшие вопросы и ос- новные точки зрения и позиции, выраженные участниками межправительственного совеща- ния.
Предлагаемая резолюция
11. В свете вышеизложенного Генеральной конференции предлагается принять следую- щую резолюцию:
Генеральная конференция,
напоминая о резолюции 40 C/57 и решениях 206 EX/42, 207 EX/5.I.A и 210 EX/35,
рассмотрев документ 41 C/23,
заявляя вновь о необходимости принятия нормативного акта об этических аспектах ис- кусственного интеллекта (ИИ) в форме рекомендации,
отмечая, что хотя искусственный интеллект (ИИ) может изменить будущее человече- ства в лучшую сторону и содействовать устойчивому развитию, в то же время су- ществует понимание связанных с ИИ рисков и трудностей, особенно с точки зрения усугубления существующего неравенства и разрывов, а также последствий для прав человека,
признавая также, что рекомендация может стать важнейшим инструментом содействия разработке и применению на национальном и международном уровнях норматив- ных актов, политики и стратегий в сфере искусственного интеллекта, а также укреп- ления международного сотрудничества в деле разработки и применения ИИ на ос- нове принципов этики в поддержку достижения целей в области устойчивого раз- вития (ЦУР),
отмечая вклад председателя межправительственного совещания по проекту Рекомен- дации об этических аспектах искусственного интеллекта и членов президиума в достижение консенсуса в отношении проекта Рекомендации и в объединение уси- лий государств-членов с целью достичь ощутимого и действенного результата,
высоко оценивая важную работу Генерального директора, направленную на проведение дальнейших консультаций и достижение консенсуса в отношении предложенной Рекомендации,
выражая признательность членам Всемирной комиссии по этике научных знаний и тех- нологий (КОМЕСТ) ЮНЕСКО, подготовившим предварительное исследование це- лесообразности принятия нормативного акта об этических аспектах искусствен- ного интеллекта, и членам специальной группы экспертов, разработавшим первый проект Рекомендации об этических аспектах искусственного интеллекта,
1. выражает признательность государствам-членам и международным партнер- ским организациям, принявшим участие в процессе консультаций и оказавшим ЮНЕСКО поддержку в выполнении этой важной задачи;
2. принимает Рекомендацию об этических аспектах искусственного интеллекта (ИИ), содержащуюся в приложении к документу 41 С/23;
3. рекомендует государствам-членам применять положения Рекомендации об эти- ческих аспектах искусственного интеллекта (ИИ) и принять надлежащие меры, в том числе законодательного характера, в соответствии с конституционной практи- кой и структурами управления каждого государства в целях воплощения в жизнь на их территориях закрепленных в данной Рекомендации принципов;
4. постановляет, что периодичность представления государствами-членами докла- дов о принятых ими мерах по выполнению Рекомендации об этических аспектах искусственного интеллекта (ИИ) будет составлять четыре года;
5. предлагает Генеральному директору представить Генеральной конференции на ее 43-й сессии первый сводный доклад о выполнении Рекомендации об этических аспектах искусственного интеллекта (ИИ) и постановляет включить данный пункт в повестку дня своей 43-й сессии.
Annex
ПРИЛОЖЕНИЕ
ПРОЕКТ РЕКОМЕНДАЦИИ ОБ ЭТИЧЕСКИХ АСПЕКТАХ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ПРЕАМБУЛА
Генеральная конференция Организации Объединенных Наций по вопросам образования, науки и культуры (ЮНЕСКО) в ходе своей ХХ-й сессии, проходившей в Париже с ХХ по ХХ,
отмечая существенное и динамичное позитивное и негативное воздействие, оказываемое искусственным интеллектом (ИИ) на общественные системы, окружающую среду, экосистемы и жизнь человека, в том числе его интеллектуальную деятельность, отчасти обусловленное появлением новых возможностей, позволяющих путем использования ИИ влиять на процессы мышления, взаимодействия и принятия человеком решений, а также на сферу образования, гуманитарные, социальные и естественные науки, культуру и информационно-коммуникаци- онные технологии,
напоминая, что в соответствии с положениями своего Устава ЮНЕСКО ставит себе задачей содействовать укреплению мира и безопасности путем расширения сотрудничества народов в области образования, науки, культуры, коммуникации и информации в интересах поощре- ния всеобщего уважения справедливости, законности и прав человека, а также основных сво- бод, провозглашенных для всех народов,
будучи убеждена в том, что представленная ниже рекомендация, подготовленная в рамках глобального подхода на основе международного права и призванная обеспечить уважение человеческого достоинства и прав человека, а также гендерное равенство, социальную и эко- номическую справедливость, физическое и психическое благополучие человека, разнообра- зие, взаимосвязь, инклюзивность, экологическую безопасность и защиту среды обитания, сможет направить процесс развития технологий на основе ИИ в ответственное русло,
руководствуясь целями и принципами Устава Организации Объединенных Наций,
принимая во внимание, что технологии ИИ способны принести человечеству огромную пользу и их преимуществами могут воспользоваться все страны, но при этом поднимают фун- даментальные вопросы этического порядка, касающиеся, в частности, предвзятости, которую такие технологии могут порождать и усугублять, что потенциально может вести к дискрими- нации, неравенству, цифровому разрыву и маргинализации, ставить под угрозу культурное, социальное и биологическое разнообразие и усугублять социальное или экономическое рас- слоение; необходимость обеспечения прозрачности и понятности работы алгоритмов и дан- ных, на основе которых проводится обучение интеллектуальных систем; и потенциальные по- следствия их применения, в частности с точки зрения уважения человеческого достоинства, прав человека и основных свобод, гендерного равенства, демократии, участия в социально- экономических, политических и культурных процессах, научной и инженерной практики, за- щиты прав животных, а также состояния окружающей среды и экосистем,
признавая, что технологии на основе ИИ могут усугубить существующие в мире разногласия и неравенство как внутри стран, так и между ними, и что принципы справедливости, доверия и беспристрастности должны служить гарантией того, что никакая страна и никакой человек не окажется в проигрыше ни с точки зрения возможностей для справедливого доступа к ИИ-технологиям, ни в плане защиты от негативных последствий их применения, и при этом учитывая различие условий, существующих в разных странах, и уважая нежелание некото- рых людей принимать непосредственное участие в техническом прогрессе,
сознавая тот факт, что сегодня все страны имеют дело с ускорением темпов внедрения ин- формационно-коммуникационных технологий и систем на основе ИИ, а также с растущей по-
требностью в навыках медийно-информационной грамотности, что цифровая экономика тре- бует решения сложных задач социального, экономического и экологического характера и при этом открывает широкие возможности для совместного использования полученных благ, в особенности странами с низким и средним уровнем дохода (СНСД), включая наименее раз- витые страны (НРС), развивающиеся страны, не имеющие выхода к морю (РСНВМ) и малые островные развивающиеся государства (МОСРГ), а также требует признания, защиты и по- ощрения эндогенных культур, ценностей и знаний в целях формирования устойчивых цифро- вых экономик,
признавая, что технологии на основе ИИ способны оказать благотворное воздействие на со- стояние окружающей среды и экосистем и что для этого должен учитываться, а не игнориро- ваться потенциальный вред и потенциальные негативные последствия их применения для окружающей среды и экосистем,
отмечая, что учет рисков и этических аспектов не должен препятствовать инновациям и раз- витию, а напротив, должен обеспечивать новые потенциальные возможности и стимулиро- вать этичную научно-исследовательскую и инновационную деятельность, способствующую тому, чтобы ИИ-технологии были неразрывно связаны с правами человека и основными сво- бодами, нравственными ценностями и принципами и морально-этическими воззрениями,
напоминая, что в ноябре 2019 года Генеральная конференция ЮНЕСКО на своей 40-й сессии приняла резолюцию 40 С/37, в которой она уполномочила Генерального дирек- тора инициировать «разработку международного нормативного акта по этическим аспектам искусственного интеллекта (ИИ) в форме рекомендации», который должен быть представлен Генеральной конференции на ее 41-й сессии в 2021 году,
признавая, что развитие технологий на основе ИИ требует сопоставимого повышения объе- мов данных, медийной и информационной грамотности, а также обеспечения доступа к неза- висимым, разнообразным и достоверным источникам информации для смягчения рисков не- достоверной и заведомо ложной информации и языка ненависти, а также ущерба в резуль- тате злоупотребления личными данными,
отмечая, что рамочный нормативный документ, регулирующий сферу ИИ-технологий и воз- можные социальные последствия их применения, зиждется на нормах международного и национального права, правах человека и основных свободах, этике, необходимости в доступе к данным, информации и знаниям, принципе свободы научно-исследовательской и инноваци- онной деятельности, благополучии человека, экологии и среды обитания, обеспечивая увязку этических ценностей и принципов с задачами и возможностями, обусловленными развитием ИИ-технологий, на основе единого понимания и общих целей,
признавая, что нравственные принципы и ценности могут способствовать выработке и осу- ществлению мер политики и норм правозащитного характера и выступать в качестве ориен- тиров с учетом высоких темпов технологического развития,
будучи убеждена в том, что наличие согласованных на глобальном уровне этических стан- дартов в отношении ИИ-технологий, а также всестороннее соблюдение норм международного права, в частности в области прав человека, может иметь важнейшее значение для разра- ботки связанных с ИИ норм во всем мире,
памятуя о положениях Всеобщей декларации прав человека 1948 года, положениях между- народных нормативно-правовых документов в области прав человека, в том числе Конвенции 1951 года о статусе беженцев, Конвенции 1958 года о дискриминации в области труда и за- нятий, Международной конвенции 1965 года о ликвидации всех форм расовой дискриминации, Международного пакта 1966 года о гражданских и политических правах, Международного пакта 1966 года об экономических, социальных и культурных правах, Конвенции 1979 года о ликвидации всех форм дискриминации в отношении женщин, Конвенции 1989 года о правах
ребенка и Конвенции 2006 года о правах инвалидов, о положениях Конвенции 1960 года о борьбе с дискриминацией в области образования и Конвенции ЮНЕСКО 2005 года об охране и поощрении разнообразия форм культурного самовыражения, а также любых других имею- щих отношение к этому вопросу международно-правовых актов, рекомендаций и деклараций,
принимая к сведению Декларацию 1986 года Организации Объединенных Наций о праве на развитие, Декларацию 1997 года об ответственности нынешних поколений перед буду- щими поколениями, Всеобщую декларацию 2005 года о биоэтике и правах человека, Декла- рацию Организации Объединенных Наций 2007 года о правах коренных народов, принятую в 2015 году Генеральной Ассамблеей Организации Объединенных Наций резолюцию об обзоре хода осуществления решений Всемирной встречи на высшем уровне по вопросам информа- ционного общества (А/RES/70/125), Резолюцию Генеральной Ассамблеей Организации Объ- единенных Наций «Преобразование нашего мира: повестка дня в области устойчивого разви- тия на период до 2030 года (A/RES/70/1) (2015 г.), Рекомендацию 2015 года об обеспечении сохранности и доступности документального наследия, в том числе в цифровой форме, Де- кларацию этических принципов в связи с изменением климата 2017 года, Рекомендацию 2017 года в отношении научной деятельности и научных работников (исследователей), раз- работанные показатели универсальности интернета (одобренные в 2018 году Международ- ной программой развития коммуникации ЮНЕСКО), включая принципы П.О.Д.М. (одобренные в 2015 году Генеральной конференцией ЮНЕСКО), принятую 26 сентября 2019 года Советом по правам человека резолюцию по вопросу о праве на неприкосновенность частной жизни в эпоху цифровых технологий (A/HRC/RES/42/15) и резолюцию Совета по правам человека о новых и появляющихся цифровых технологиях и правах человека A/HRC/41/11 (2019 г.),
подчеркивая необходимость уделять особое внимание СНСД, в том числе НРС, РСНВМ и МОСРГ, с учетом имеющегося у этих стран потенциала и одновременно их недостаточной представленности в дискуссиях, посвященных этическим аспектам ИИ, что дает вызывает обеспокоенность в отношении игнорирования местного опыта и знаний, принципов культур- ного плюрализма, систем ценностей и требований глобальной справедливости при обсужде- нии вопросов, связанных с позитивным и негативным воздействием технологий на основе ИИ,
будучи осведомлена о наличии во многих государствах других рамочных основ националь- ной политики и о многочисленных инициативах в области этики и регулирования технологий на базе ИИ, разработанных соответствующими структурами ООН, межправительственными организациями, а также частными структурами, профессиональными и неправительствен- ными организациями и научным сообществом,
будучи убеждена в том, что применение технологий на основе ИИ может принести суще- ственные выгоды, но также и в том, что их получение может усилить напряженность по поводу инноваций, неравенства в доступе к имеющимся знаниям и технологиям, включая дефицит цифровой и гражданской грамотности, ограничивающий возможности для участия обществен- ности в обсуждении связанных с ИИ тем, а также ограничения в области доступа к информа- ции и дефицита потенциала, ограниченности кадровых и институциональных возможностей, проблем, связанных с доступом к инновационным технологиям и отсутствием необходимой физической и цифровой инфраструктуры, а также регламентирующих рамок, в том числе ка- сающихся работы с данными, причем все эти вопросы требуют своего решения,
подчеркивая, что для облегчения справедливого доступа к технологиям на основе ИИ и ре- шения сложных задач, которые они выносят на повестку дня в условиях разнообразия и вза- имосвязанности культур и этических систем, а также для минимизации последствий потенци- ального ненадлежащего применения ИИ-технологий и всестороннего раскрытия потенциала ИИ, особенно в сфере развития, а также для ориентации национальных стратегий в области ИИ на этические принципы необходимо укреплять взаимодействие и солидарный подход в глобальном масштабе,
в полной мере учитывая, что стремительное развитие ИИ-технологий существенно затруд- няет возможность их внедрения и управления ими этически корректным образом, а также ува- жение и защиту культурного разнообразия и может подрывать существующие на региональ- ном и местном уровнях этические стандарты и ценностные установки,
1. принимает настоящую Рекомендацию об этических аспектах искусственного интел- лекта;
2. рекомендует государствам-членам добровольно применять положения настоящей Ре- комендации посредством принятия надлежащих мер, отвечающих конституциональным нормам и особенностям структуры управления каждого государства, в том числе, при необходимости, мер законодательного или иного характера, направленных на претво- рение в жизнь в пределах своей юрисдикции сформулированных в настоящей Рекомен- дации принципов и норм, в соответствии с международным правом, в том числе между- народным правом в области прав человека;
3. рекомендует также государствам-членам и всем заинтересованным сторонам, вклю- чая частные предприятия обеспечить выполнение ими своих соответствующих обяза- тельств, а также довести положения настоящей Рекомендации до сведения своих орга- нов власти и управления, научно-исследовательских и академических организаций, гос- ударственных, коммерческих и некоммерческих учреждений и организаций, занимаю- щихся вопросами искусственного интеллекта, с тем чтобы разработка и применение ИИ-технологий осуществлялись с опорой на достоверные научные данные и на основе анализа и оценки этических аспектов.
I. СФЕРА ПРИМЕНЕНИЯ
ПРОЕКТ РЕКОМЕНДАЦИИ ОБ ЭТИЧЕСКИХ АСПЕКТАХ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
I. СФЕРА ПРИМЕНЕНИЯ
1. В настоящей Рекомендации рассматриваются этические аспекты искусственного интел- лекта в той степени, в которой они относятся к мандату ЮНЕСКО. Под этичным применением ИИ в Рекомендации понимается систематическое нормативное осмысление этических аспек- тов ИИ на основе эволюционирующей комплексной, всеобъемлющей и многокультурной си- стемы взаимосвязанных ценностных установок, принципов и процедур, способное ориенти- ровать общества в вопросах ответственного учета известных и неизвестных последствий при- менения ИИ-технологий для людей, сообществ, окружающей природной среды и экосистем, а также служить основой для принятия решений, касающихся применения или отказа от при- менения технологий на основе ИИ. Этические принципы в настоящей Рекомендации высту- пают в качестве гибкой основы для нормативной оценки, а также методического руководства в вопросах применения технологий на основе ИИ, рассматривая человеческое достоинство, благополучие человека и недопущение нанесения вреда как целевой ориентир и уходя кор- нями в этику науки и технологии.
2. Настоящая Рекомендация не преследует цели предложить единственно возможное определение искусственного интеллекта, поскольку с течением времени и по мере развития технологий такое определение потребовало бы внесения изменений. Цель, скорее, заключа- ется в том, чтобы привлечь внимание к ключевым характеристикам искусственных интеллек- туальных систем, имеющим принципиальную этическую значимость. В связи с этим системы на основе ИИ рассматриваются в настоящей Рекомендации как технологические системы, способные обрабатывать данные и информацию способом, напоминающим разумное пове- дение и включающим, как правило, такие аспекты, как рассуждение, обучение, распознание, прогнозирование, планирование и контроль. Важнейшее значение в таком подходе имеют следующие три момента:
(a) Системы на основе ИИ представляют собой технологии обработки информации, которые включают модели и алгоритмы, обеспечивающие способность обучения и выполнения когнитивных задач, с получением результатов в виде прогнозной оценки и принятия решения в материальной и виртуальной среде. ИИ-системы предназначены для работы с той или иной долей автономности посредством мо- делирования и представления знаний, а также использования данных и расчета корреляционных зависимостей. В системах на основе ИИ могут использоваться различные методологии, в частности:
(i) самообучение машины, в том числе глубокое обучение и обучение с подкреп- лением;
(ii) автоматизированное рассуждение, в том числе планирование, диспетчери- зация, представление знаний и формирование рассуждений, поиск и оптими- зация;
(iii) системы на основе ИИ могут использоваться в кибер-физических системах, включая системы контроля оборудования через интернет, робототехниче- ское оборудование, социальную робототехнику и системы человеко-машин- ного интерфейса, объединяющие в себе функции контроля, распознания, об- работки данных, собранных датчиками, а также работу исполнительных эле- ментов в среде функционирования ИИ-систем.
(b) Этическая составляющая характерна для всех этапов жизненного цикла искус- ственной интеллектуальной системы, понимаемого здесь как вся совокупность эта- пов, начиная с этапов исследования, проектирования и создания и заканчивая эта- пами развертывания и использования, к которому относятся техническое обслужи- вание, эксплуатация, сбыт, финансирование, мониторинг и оценка эффективности, контроль работоспособности, вывод из эксплуатации, демонтаж и утилизация. При этом под субъектами связанной с ИИ деятельности могут пониматься любые заин- тересованные стороны, вовлеченные, по меньшей мере, в один их этапов жизнен- ного цикла системы на основе ИИ, – как юридические, так и физические лица, в частности исследователи, программисты, инженеры, специалисты по обработке данных, конечные пользователи, предприятия частного сектора, университеты, частные и государственные учреждения и т.д.
(c) Развитие систем на основе ИИ поднимает этические вопросы нового типа, касаю- щиеся, в частности, их влияния на процессы принятия решений, проблему занято- сти и рынок труда, взаимодействие между людьми в обществе, медицину, образо- вание, средства информации, доступ к информации, цифровое неравенство, за- щиту персональных данных и потребителей, окружающую среду, демократию, вер- ховенство закона, обеспечение безопасности и правопорядка, двойное использо- вание, а также права человека и основные свободы, включая. свободу выражения мнений, неприкосновенность частной жизни и отсутствие дискриминации. Появле- ние новых проблем этического характера связано также с тем, что алгоритмы ИИ способны воспроизводить и усиливать предвзятое отношение, например по при- знаку пола, этнической принадлежности или возраста, усугубляя тем самым уже существующие формы дискриминации, предрассудки и стереотипные представле- ния в отношении самобытности. Некоторые из этих проблем обусловлены способ- ностью ИИ-систем выполнять задачи, которые раньше были под силу только жи- вым существам, а в ряде случаев – только человеку. Эти особенности предопре- делили наделение интеллектуальных систем важной новой ролью в повседневной жизни человека и общества, а также в их взаимоотношениях с окружающей средой и экосистемами, создав новые условия, в которых дети и молодежь получили воз- можность расти и развиваться, расширять свои представления о мире и о себе
самих, критически осмысливать информацию, получаемую из СМИ и других источ- ников, учиться принимать решения. В долгосрочной перспективе ИИ-системы ис- кусственного интеллекта смогут соперничать с человеком в его уникальной спо- собности оценивать свой опыт и самостоятельно действовать, что поднимает но- вые вопросы, касающиеся, среди прочего, самоосознания и самопознания чело- века, его взаимодействия с социумом, культурным окружением и природой, а также вопросы автономии, свободы действий, ценности и достоинства человека.
3. Отдельное внимание в настоящей Рекомендации уделено масштабным этическим по- следствиям применения систем на основе ИИ в основных областях деятельности ЮНЕСКО – в сфере образования, науки, культуры, коммуникации и информации, что стало предметом углубленного анализа в рамках опубликованного в 2019 году Всемирной комиссией ЮНЕСКО по этике научных знаний и технологий (КОМЕСТ) Предварительного исследования этических аспектов искусственного интеллекта:
(a) Последствиям в сфере образования, поскольку жизнь обществ в цифровую эпоху требует внедрения новых методов обучения, этического подхода, критического мышления, ответственных методов реализации и новых практических навыков с учетом влияния на рынок труда, возможности трудоустройства и участия граждан.
(b) Последствиям в сфере науки в ее самом широком смысле, включая все области научных знаний, начиная с естественных наук и медицины и заканчивая соци- ально-гуманитарными дисциплинами, в связи с тем, что технологии на основе ИИ открывают новые исследовательские возможности и подходы, влияют на наши концепции научного понимания и объяснения окружающего мира и создают новую основу для принятия решений.
(c) Последствиям в вопросах культурной самобытности и культурного разнообразия, поскольку ИИ-технологии способны как обогатить индустрию культуры и творче- ства, так и стать фактором концентрации предложения культурного контента, дан- ных, рынков и доходов в руках весьма ограниченного круга хозяйствующих субъ- ектов, что потенциально негативно отразится на разнообразии и плюрализме язы- ков, средств информации, форм культурного самовыражения, на возможностях участия и обеспечении принципа равенства.
(d) Последствиям в сфере коммуникации и информации, поскольку технологии на ос- нове ИИ играют все более важную роль в обработке, структурировании и предо- ставлении информации, а роботизированная журналистика, алгоритмизация но- востного контента, модерирование и курирование содержания в социальных сетях и поисковых системах – и это лишь некоторые примеры – поднимают вопросы в отношении доступа к информации, распространения недостоверной и заведомо ложной информации, языка ненависти, появления новых форм социальных сте- реотипов, дискриминации, свободы выражения мнений, неприкосновенности част- ной жизни, медийно-информационной грамотности и т.д.
4. Настоящая Рекомендация адресована государствам-членам как субъектам связанной с ИИ деятельности, но одновременно и их органам власти, ответственным за нормативно-пра- вовое регулирование всех этапов жизненного цикла ИИ-систем, а также за поощрение ответ- ственности деловых кругов. Кроме того, она предлагает всем субъектам связанной с ИИ дея- тельности, в том числе государственному и частному секторам, руководящие этические прин- ципы, которые обеспечат основу для оценки этических аспектов применения ИИ-систем на всех этапах их жизненного цикла.
II. ЦЕЛИ И ЗАДАЧИ
5. Цель настоящей Рекомендации – заложить основу, которая позволит использовать ИИ на благо всего человечества, отдельного человека, обществ, окружающей среды и экосистем и не допустить причинения им вреда. Ее цель также состоит в том, чтобы стимулировать ис- пользование систем на основе ИИ в мирных целях.
6. В дополнение к уже существующим по всему миру этическим нормам в области ИИ дан- ная Рекомендация призвана предложить согласованный на глобальном уровне нормативный инструмент, который поможет не только четко сформулировать ценностные установки и прин- ципы деятельности, но и будет способствовать их практической реализации на основе кон- кретных принципиально значимых рекомендаций с особым вниманием к инклюзивности, во- просам гендерного равенства, охране окружающей среды и защите экосистем.
7. Сложный характер связанных с ИИ этических проблем требует взаимодействия боль- шого числа заинтересованных сторон, представляющих различные уровни и направления де- ятельности сообществ в глобальном, региональном и национальном масштабах. В связи с этим настоящая Рекомендация преследует цель помочь заинтересованным сторонам реали- зовать принцип совместной ответственности на основе глобального межкультурного диалога.
8. Задачи настоящей Рекомендации состоят в том, чтобы:
(a) обеспечить универсальную рамочную основу в виде ценностных установок, прин- ципов деятельности и механизмов, которыми государства руководствовались бы при разработке своих законов, стратегий и других документов, касающихся ИИ, в соответствии с нормами международного права;
(b) ориентировать деятельность физических лиц, групп, сообществ, государственных учреждений и частных компаний в вопросах учета этических аспектов на всех эта- пах жизненного цикла искусственной интеллектуальной системы;
(c) содействовать защите, поощрению и уважению прав человека и основных свобод, человеческого достоинства и равенства, включая равенство мужчин и женщин, обеспечить соблюдение интересов нынешнего и будущих поколений, сохранение окружающей среды, биоразнообразия и экосистем, а также уважение культурного разнообразия на всех этапах жизненного цикла ИИ-системы;
(d) поощрять многосторонний, многодисциплинарный и плюралистический диалог и достижение консенсуса по этическим аспектам применения ИИ-систем;
(e) содействовать справедливому доступу к достижениям и знаниям в области ИИ, а также совместному использованию полученных благ с уделением особого внима- ния потребностям и вкладу СНРС, включая НРС, РСНВМ и МОСРГ.
III. ЦЕННОСТНЫЕ УСТАНОВКИ И ПРИНЦИПЫ
9. Сформулированные ниже ценностные установки и принципы деятельности должны, прежде всего, соблюдаться всеми заинтересованными сторонами на протяжении жизненного цикла ИИ-системы и, по мере необходимости и целесообразности, поощряться путем внесе- ния изменений в действующее законодательство и новые законы, нормативные положения и руководящие принципы предпринимательской деятельности. Принимаемые меры должны со- ответствовать положениям международного права, в том числе Уставу Организации Объ- единенных Наций, включая обязательства государств-членов в области прав человека, а также согласованным на международном уровне целям обеспечения устойчивости в социаль- ной, политической, экологической, образовательной, научной и экономической областях, та- ким, как цели Организации Объединенных Наций в области устойчивого развития (ЦУР).
10. В процессе формулирования мер политики и нормативных положений ценностные уста- новки выполняют важную функцию стимулирующих целей. В связи с этим представленный ниже набор таких установок призван поощрять необходимые модели поведения и служить основой для формулирования принципов деятельности, которые в свою очередь разъясняют и конкретизируют лежащие в их основе ценностные установки, упрощая тем самым реализа- цию последних в форме директивных положений и практических мер.
11. Несмотря на то, что все перечисленные ниже ценностные установки и принципы дея- тельности сами по себе являются актуальными, в любых конкретных ситуациях может возни- кать напряженность между этими ценностными установками и принципами. В той или иной ситуации для устранения потенциальной напряженности потребуется контекстуальная оценка, принимающая во внимание принцип соразмерности и соответствующая нормам в об- ласти прав человека и основных свобод. Во всех случаях любые возможные ограничения прав человека и основных свобод должны иметь законные основания, носить разумный, необхо- димый и соразмерный характер и соответствовать обязательствам государств в рамках меж- дународного права. Взвешенный подход к принятию подобных решений, как правило, пред- полагает взаимодействие с широким кругом соответствующих заинтересованных сторон, ис- пользование механизмов общественного диалога, а также анализ этических аспектов, про- верку соблюдения этических норм и оценку этического воздействия.
12. Вызывающий доверие и корректный с этической точки зрения характер жизненного цикла ИИ-систем существенно важен для того, чтобы обеспечить применение технологий на основе ИИ на благо человечества, отдельного человека, обществ, окружающей среды и эко- систем, и станет практическим воплощением ценностных установок и принципов, изложенных в настоящей Рекомендации. Необходимо, чтобы люди имели серьезные основания полагать, что ИИ-системы могут быть индивидуальным и общим благом и что в интересах минимизации потенциальных негативных последствий принимаются адекватные меры. Важнейшим усло- вием доверия к искусственным интеллектуальным системам является возможность их тща- тельного контроля на протяжении всего жизненного цикла соответствующими заинтересован- ными сторонами. Поскольку доверие является результатом практического применения прин- ципов, изложенных в этом документе, все предлагаемые в настоящей Рекомендации меры стратегического характера призваны содействовать повышению уровня доверия на всех эта- пах жизненного цикла искусственной интеллектуальной системы.
III.1 ЦЕННОСТНЫЕ УСТАНОВКИ
Уважение, защита и поощрение прав человека и основных свобод и человеческого до- стоинства
13. Признание непреложного достоинства, присущего каждой человеческой личности, ле- жит в основе универсальной, целостной, неделимой, взаимозависимой и взаимосвязанной системы прав человека и его основных свобод. Поэтому уважение, защита и поощрение че- ловеческого достоинства и прав человека, как они установлены международным правом, включая международные правозащитные нормы, имеют наиважнейшее значение на всех эта- пах жизненного цикла искусственной интеллектуальной системы. Человеческое достоинство связано с признанием объективно присущей каждому отдельному человеку равной ценности и не зависит от расы, цвета кожи, происхождения, гендерной принадлежности, возраста, языка, религии, политических убеждений, национальной, этнической и социальной принад- лежности, экономических или социальных условий места рождения, инвалидности и любых прочих факторов.
14. Ни один из этапов жизненного цикла искусственной интеллектуальной системы не дол- жен быть связан с ущербом или зависимостью физического, экономического, социального, политического, культурного или интеллектуального характера для человека или для людского сообщества. На протяжении жизненного цикла ИИ-систем необходимо заботиться о повыше- нии качества жизни людей; при этом любой человек или группа лиц вправе самостоятельно
трактовать понятие «качество жизни» в той мере, в какой это не ведет к нарушению или по- пранию прав человека и основных свобод и не умаляет человеческого достоинства с точки зрения существующего определения.
15. Люди могут взаимодействовать с ИИ-системой на протяжении всего ее жизненного цикла для получения требуемой им помощи, например, связанной с уходом за уязвимыми категориями граждан или людьми, находящимися в уязвимой ситуации, в частности детьми, пожилыми людьми, инвалидами или больными. При этом такое взаимодействие никогда не должно вести к обезличиванию человека, к унижению его достоинства в какой-либо иной форме, к нарушению или попранию прав человека и основных свобод.
16. Права человека и основные свободы должны уважаться, защищаться и поощряться на всем протяжении жизненного цикла систем на основе ИИ. В своей деятельности, связанной с различными этапами жизненного цикла ИИ-систем, органы государственного управления, частные структуры, гражданское общество, международные организации, профессиональные сообщества и научные круги должны соблюдать положения документов и рамочных стандар- тов в области прав человека. Новые технологии должны не допускать ущемления прав чело- века и предлагать новые возможности их защиты, отстаивания и осуществления.
Благополучие окружающей среды и экосистем
17. На всех этапах жизненного цикла ИИ-систем следует обеспечивать признание значимой роли окружающей среды и экосистем, их охрану и поощрение их благополучия. Более того, здоровая окружающая среда и экосистемы жизненно необходимы для выживания человече- ства и других живых существ, а также самой возможности пользоваться благами прогресса в области ИИ.
18. Все вовлеченные в жизненный цикл ИИ-систем заинтересованные стороны должны со- блюдать положения соответствующих международных и национальных норм, стандартов и правил, включая меры предосторожности, предусмотренные для защиты и восстановления состояния окружающей среды и экосистем, а также обеспечения устойчивого развития. Они должны стремиться к тому, чтобы снизить оказываемое ИИ-системами на экологию воздей- ствие, в том числе их углеродный след, с тем чтобы минимизировать масштабы изменения климата и влияние факторов экологического риска, а также препятствовать использованию экологически опасных моделей освоения, эксплуатации и переработки природных ресурсов, ведущих к ухудшению состояния окружающей среды и экосистем.
Обеспечение разнообразия и инклюзивности
19. На всем протяжении жизненного цикла ИИ-систем в соответствии с международным правом, включая правозащитные нормы, необходимо обеспечивать уважение, защиту и по- ощрение разнообразия и инклюзивности. Достижению этой цели могло бы способствовать поощрение активного вовлечения всех граждан или групп лиц вне зависимости от расовой принадлежности, цвета кожи, происхождения, гендерной принадлежности, возраста, языка, религии, политических убеждений, национального, этнического, социального происхождения или принадлежности к коренным народам, экономических или социальных условий при рож- дении, инвалидности и прочих факторов.
20. Ни на одном из этапов жизненного цикла ИИ-систем не должна ограничиваться возмож- ность выбора человеком предпочтительного для него образа жизни, убеждений, взглядов, способов самовыражения или жизненного пути, в том числе возможность факультативного использования ИИ-систем, а также участия в определении их параметров.
21. Кроме того, необходимо предпринять усилия, в том числе в области международного сотрудничества, для устранения сказывающегося на жизни сообществ дефицита необходи-
мой технической инфраструктуры, образовательных возможностей и навыков, а также норма- тивной базы, в частности в СНРС, НРС, РСНВМ и МОСРГ, и недопущению использования этого дефицита в чьих-либо интересах.
Жизнь в мирных, справедливых и взаимосвязанных обществах
22. Субъекты связанной с ИИ деятельности должны играть роль участника и мотиватора деятельности по становлению мирных и справедливых обществ в интересах достижения все- общего благополучия в условиях будущего взаимосвязанного мира в соответствии с правоза- щитными нормами и основными свободами. Ценностная установка «жизнь в мирных и спра- ведливых обществах» указывает на заложенную в ИИ-системах способность поощрять на протяжении всего их жизненного цикла взаимосвязь всех живых существ между собой и с окружающей природой.
23. В основе принципа взаимосвязанности людей лежит понимание того, что каждый чело- век является частью бо́ льшего целого, которое процветает, когда процветают все составля- ющие его компоненты. Жизнь в мирных, справедливых и взаимосвязанных обществах требует наличия естественных, непосредственных и лишенных корысти уз солидарности, выражаю- щихся в постоянном стремлении к мирным отношениям и в заботе о других людях и окружа- ющей природной средой в самом широком смысле этого слова.
24. Данная ценностная установка требует поощрения мира, инклюзивности и справедливо- сти, равноправия и взаимосвязанности в течение всего жизненного цикла ИИ-систем в том смысле, что процессы в рамках этого цикла не должны вести к дискриминации и обезличива- нию или ущемлять свободы и независимое принятие решений, а также подрывать безопас- ность людей и общин, порождать разногласия между отдельными людьми и группами лиц и настраивать их друг против друга или ставить под угрозу сосуществование человека с дру- гими живыми существами и окружающей его природной средой.
III.2 ПРИНЦИПЫ ДЕЯТЕЛЬНОСТИ
Соразмерность и непричинение вреда
25. Необходимо понимать, что сами по себе технологии на основе ИИ не обязательно явля- ются гарантией благополучия человека, окружающей среды и экосистем. Более того, никакая деятельность, связанная с различными этапами жизненного цикла ИИ-системы, не должна выходить за рамки того, что требуется для достижения законных целей или выполнения наме- ченных задач, при этом должен учитываться конкретный контекст. При наличии потенциаль- ной угрозы причинения вреда людям, правам человека и основным свободам, общинам и об- ществу в целом или окружающей природе и экосистемам следует предусмотреть соответ- ствующие процедуры оценки рисков, а также принять меры по исключению вероятности при- чинения такого вреда.
26. Решение об использовании ИИ-системы и выбор конкретного метода ее реализации должны основываться на следующих критериях: (а) выбранный метод ИИ является подходя- щим и пропорциональным для достижения данной законной цели; (b) выбранный метод ИИ не противоречит базовым ценностным установкам, сформулированным в настоящем доку- менте, в частности, его использование не должно привести к нарушению прав человека или злоупотреблению ими; (с) выбранный метод ИИ подходит для конкретных условий и основы- вается на подтвержденных результатах научных исследований. В сценариях, связанных с принятием решений, которые могут иметь необратимые или труднообратимые последствия, или касаются вопросов жизни или смерти, окончательное решение должно оставаться за че- ловеком. В частности, ИИ-системы не должны использоваться для расчета социальной бла- гонадежности или массовой слежки.
Безопасность и защищенность
27. В интересах обеспечения безопасности и защищенности людей, экологии и экосистем на всех этапах жизненного цикла ИИ-систем следует избегать непреднамеренного причине- ния вреда (риски для безопасности), а также уязвимости перед кибератаками (риски для за- щищенности), учитывать, предотвращать и ликвидировать эти риски. Безопасность и защи- щенность ИИ-систем могут быть повышены посредством разработки надежных и защищен- ных от несанкционированного доступа к личной информации комплексных систем, которые обеспечат более эффективный характер обучения и сертификации моделей ИИ на основе качественных данных.
Справедливость и отказ от дискриминации
28. Субъекты связанной с ИИ деятельности должны способствовать социальной справед- ливости и соблюдать принципы непредвзятости и отказа от дискриминации любого рода в соответствии с нормами международного права. Это подразумевает инклюзивный подход к обеспечению распространения и всеобщего доступа к полученным благодаря ИИ благам с учетом специфических потребностей разных возрастных групп, культурных систем, языковых сообществ, инвалидов, женщин и девочек, малообеспеченных, социально незащищенных и уязвимых категорий населения, либо лиц, находящихся в незащищенном положении. Госу- дарствам-членам следует работать над поощрением инклюзивного всеобщего доступа к ИИ-системам, в том числе для местных общин, с соблюдением принципов многоязычия и культурного разнообразия. Государствам-членам также следует работать над преодолением различных видов разрыва в цифровых технологиях и обеспечением инклюзивного доступа к разработке ИИ и участия в ней. На национальном уровне государствам-членам следует по- ощрять равенство сельских и городских районов с точки зрения доступа к системам на основе ИИ и участия в их жизненном цикле, а также равенство всех граждан вне зависимости от ра- совой принадлежности, цвета кожи, происхождения, гендерной принадлежности, возраста, языка, религии, политических или иных убеждений, национального, этнического, социального происхождения, экономических или социальных условий рождения, инвалидности и любых иных факторов. На международном уровне наиболее технологически продвинутые государ- ства несут ответственность за проявление солидарности с наименее развитыми странами, с тем чтобы обеспечить совместное использование полученных благодаря ИИ-технологиям благ и доступ НРС к ИИ-системам и участию в жизненном цикле таких систем в интересах установления более справедливого международного порядка в сфере информации, коммуни- кации, культуры, образования, научных исследований, а также обеспечения социально-эко- номической и политической стабильности.
29. Субъекты связанной с ИИ деятельности должны прилагать все оправданные усилия к тому, чтобы минимизировать проявления и избегать усиления или закрепления в жизненном цикле ИИ-системы дискриминационных или предвзятых способов ее применения или резуль- татов деятельности в интересах обеспечения справедливого характера таких систем. Для оспаривания дискриминационных и предвзятых алгоритмов должны быть предусмотрены воз- можности правовой защиты.
30. Кроме того, цифровое отставание, разрыв в уровне знаний внутри стран и между ними, в том числе в области качественного доступа к технологиям и данным в соответствии с при- менимыми национальными, региональными и международными нормативно-правовыми ак- тами, а также в области возможностей подключения и получения теоретических и практиче- ских знаний и конструктивного участия соответствующих групп населения для обеспечения справедливого отношения к каждому человеку, должны оставаться предметом пристального внимания на всех этапах жизненного цикла ИИ-системы.
Устойчивость
31. Формирование устойчивых обществ требует решения сложного комплекса задач, охва- тывающих ряд взаимосвязанных людских, социально-культурных, экономических и экологи- ческих аспектов. Появление технологий на основе ИИ может благотворно сказаться на реше- нии задач в области устойчивого развития, однако может и помешать их реализации, в зави- симости от того, какие методы будут использованы в странах с различным уровнем развития. В связи с этим оценка людских, социальных, культурных, экономических и экологических ас- пектов применения технологий на основе ИИ должна неизменно проводиться с должным уче- том их влияния на устойчивость развития, под которым понимается набор постоянно меняю- щихся целей в различных областях деятельности, сформулированных на сегодняшний день в виде целей Организации Объединенных Наций в области устойчивого развития (ЦУР).
Право на неприкосновенность частной жизни и защита данных
32. Неприкосновенность частной жизни в качестве права, имеющего важнейшее значение для обеспечения защиты человеческого достоинства, личной независимости и способности человека выступать субъектом действия, должна уважаться, защищаться и поощряться на всех этапах жизненного цикла ИИ-систем. Важно, чтобы сбор, использование, передача, ар- хивирование и удаление данных, применяемых в искусственных интеллектуальных системах, осуществлялись в соответствии с международным правом и ценностными установками и принципами, изложенными в настоящей Рекомендации, при одновременном соблюдении со- ответствующих национальных, региональных и международных правовых норм.
33. Соответствующие рамочные принципы защиты данных и механизмы управления ими должны разрабатываться на основе подхода с участием многих заинтересованных сторон на национальном уровне, защищаться судебными системами и обеспечиваться на всем протя- жении жизненного цикла ИИ-систем. Рамочные принципы защиты данных и любые связанные с ними механизмы должны основываться на международных принципах защиты данных и стандартах, касающихся сбора, использования и раскрытия личных данных, а также реализа- ции субъектами данных своих прав при обеспечении законной цели и надлежащей правовой основы для обработки персональных данных.
34. Алгоритмические системы требуют надлежащей оценки последствий на предмет соблю- дения неприкосновенности частной жизни, в том числе социальных и этических аспектов их применения, а также инновационных подходов в отношении неприкосновенности частной жизни на этапе концептуальной проработки. Субъекты ИИ должны гарантировать свою под- отчетность в рамках разработки и внедрения ИИ-систем, обеспечивая защиту личной инфор- мации на протяжении всего жизненного цикла таких систем.
Подконтрольность и подчиненность человеку
35. Государствам-членам следует обеспечить во всех случаях возможность возложения этической и правовой ответственности в отношении любого из этапов жизненного цикла ИИ-системы, а также в случаях применения мер правовой защиты в отношении ИИ-систем, на конкретных физических или действующих юридических лиц. В связи с этим термин «под- контрольность» подразумевает не только контроль со стороны отдельного человека, но и, в необходимых случаях, инклюзивный контроль со стороны общества.
36. Возможны ситуации, когда по соображениям эффективности люди решают довериться ИИ-системам. Несмотря на это, решение о делегировании в ограниченном числе случаев функций контроля все равно остается за человеком, поскольку в отличие от человека, кото- рый может задействовать ИИ-системы для принятия решений и выполнения определенных функций, ИИ-система никогда не сможет заменить человека в качестве конечного субъекта ответственности и подотчетности. Как правило, вопросы жизни и смерти не должны переда- ваться ИИ-системам.
Прозрачность и объяснимость
37. Прозрачность и объяснимость работы ИИ-систем нередко является существенным предварительным условием обеспечения уважения, защиты и поощрения прав человека, ос- новных свобод и нравственных принципов. Прозрачность необходима для эффективного при- менения соответствующего национального и международного законодательства, регулирую- щего вопросы ответственности. Отсутствие прозрачности может также негативно отразиться на возможности эффективного оспаривания решений, принятых на основании результатов работы ИИ-систем и, таким образом, может привести к нарушению права на справедливое судебное разбирательство и использование средств правовой защиты, а также ограничивать области законного применения таких систем.
38. Несмотря на актуальность усилий, направленных на повышение прозрачности и объяс- нимости ИИ-систем, в том числе имеющих экстратерриториальное значение, на всех этапах их жизненного цикла в целях обеспечения демократичного управления, степень прозрачности и объяснимости всегда должна учитывать конкретный контекст и последствия, поскольку в некоторых случаях может потребоваться сбалансированная увязка принципа прозрачности и объяснимости с другими принципами, в частности касающимися неприкосновенности частной жизни, безопасности и защищенности. Людям следует предоставлять полную информацию о том, какие решения принимаются с использованием алгоритмов искусственного интеллекта или на основе полученных с их помощью данных, в том числе решения, затрагивающие их безопасность и права человека, чтобы в соответствующих случаях люди имели возможность запросить у субъектов ИИ или государственных учреждений пояснительную информацию. Кроме того, люди должны иметь возможность доступа к обоснованию затрагивающего их права и свободы решения и представлять заявления уполномоченным сотрудникам частных компаний или государственных учреждений, которые могут пересмотреть и изменить это ре- шение. Субъектам ИИ следует надлежащим образом и своевременно информировать поль- зователей о том, предоставляется ли тот или иной продукт или услуга напрямую или с помо- щью ИИ-систем.
39. С социально-технологической точки зрения высокий уровень прозрачности играет важ- ную роль в построении миролюбивых, справедливых и свободных от социальных барьеров обществ. Он обеспечивает возможность контроля со стороны общества, что в свою очередь может способствовать снижению уровня коррупции и дискриминации, а также помочь в выяв- лении и предотвращении негативных последствий для прав человека. Прозрачность подра- зумевает предоставление должной информации соответствующим адресатам для обеспече- ния понимания и повышения доверия. Применительно к интеллектуальным системам про- зрачность может способствовать лучшему пониманию людьми характерных особенностей каждого из этапов жизненного цикла ИИ-системы с учетом контекста и степени конфиденци- альности используемых в конкретной системе данных. Прозрачность может также предпола- гать разъяснение факторов, повлиявших на конкретный прогноз или решение, а также причин наличия либо отсутствия соответствующих гарантий (в том числе мер обеспечения безопас- ности или непредвзятости). В случае серьезных рисков негативных последствий для прав че- ловека принцип прозрачности может также служить основанием для раскрытия алгоритмов или наборов данных.
40. Термин «объяснимость» касается обеспечения понятности и представления разъясне- ний в отношении полученных с помощью ИИ-систем результатов. Под объяснимостью систем на основе ИИ подразумевается также доступность для понимания исходных данных, непо- средственных результатов и функционирования каждой алгоритмической структуры и того, как все это влияет на выданный системой результат. Как следствие, «объяснимость» тесно связана с «прозрачностью», поскольку результаты и ведущие к их получению процессы более низкого уровня должны быть понятными и прослеживаемыми с учетом контекста применения. Субъектам связанной с ИИ деятельности надлежит стремиться к обеспечению объяснимости разрабатываемых алгоритмов. При использовании приложений на базе ИИ, которые имеют для конечного пользователя последствия, не являющиеся временными, легко обратимыми и
не отличающиеся низкой степенью рисков, следует гарантировать предоставление понятных обоснований при принятии любых решений, ставших основанием для принятия мер, с тем чтобы обеспечить прозрачность конечных результатов.
41. Прозрачность и объяснимость тесно связаны с соответствующими критериями ответ- ственности и подотчетности, а также с вопросом доверия к ИИ-системам.
Ответственность и подотчетность
42. На всем протяжении жизненного цикла ИИ-систем субъекты связанной с ИИ деятельно- сти и государства-члены обязаны уважать, защищать и поощрять права человека и основные свободы, а также содействовать охране окружающей среды и экосистем, неся при этом воз- ложенную на них этическую и правовую ответственность в соответствии с действующим наци- ональным и международным правом, в том числе согласно обязательствам государств-чле- нов в области прав человека, наряду с руководящими документами по вопросам этики, в том числе в отношении находящихся на их территории и под их контролем субъектов ИИ. Этиче- ская ответственность за решения и меры, принятые с использованием в той или иной форме систем искусственного интеллекта, во всех случаях должна в конечном счете возлагаться на субъекты связанной с ИИ деятельности в соответствии с их функциями в рамках жизненного цикла ИИ-систем.
43. Для обеспечения подконтрольности ИИ-систем и их воздействия на всех этапах жизнен- ного цикла необходимо разработать соответствующие механизмы контроля, оценки воздей- ствия, аудита и проверки, включая защиту лиц, сообщающих о нарушениях. Техническая и организационная концепция должна обеспечивать возможность проверки и отслеживания (работы) ИИ-систем, в том числе разрешения любых коллизий, связанных с нарушением норм и стандартов прав человека или угрозой здоровью окружающей среды и экосистемы.
Осведомленность и грамотность
44. Для обеспечения реального общественного участия и возможности принятия всеми гражданами обоснованных решений в отношении использования ИИ-систем и защиты от не- правомерных последствий их применения необходимо содействовать повышению осведом- ленности населения и улучшению понимания им ИИ-технологий и ценности данных путем совместного осуществления правительственными структурами, межправительственными ор- ганизациями, организациями гражданского общества, образовательным сообществом, СМИ, местными активистами и частными структурами широких и доступных для понимания просве- тительских программ, вовлечения граждан в жизнь общества, обучения цифровым навыкам и этическим аспектам ИИ, повышения медийно-информационной грамотности и организации профессиональной подготовки.
45. Изучение воздействия ИИ-систем должно включать просвещение в области прав чело- века и основных свобода, с их помощью и в их интересах. Это означает, что отношение к ИИ-системам и их понимание должны зависеть от того, каким образом они воздействуют на сферу прав человека и возможность реализации этих прав, а также на окружающую среду и экосистемы.
Многостороннее и адаптивное управление и взаимодействие
46. Использование данных должно осуществляться на основе международного права и ува- жения национального суверенитета. Это означает, что государства, руководствуясь нормами международного права, определяют порядок обращения с данными, генерируемыми на их территории или передаваемыми через их территорию, и принимают меры по эффективному правовому регулированию их использования, включая защиту данных, на основе уважения права на неприкосновенность частной жизни в соответствии с нормами международного права и другими нормами и стандартами в области прав человека.
47. Для инклюзивных подходов к управлению в сфере ИИ, которые позволяют всем пользо- ваться полученными благодаря ИИ благами и вносить свой вклад в устойчивое развитие, необходимо мобилизовать участие широкого круга заинтересованных сторон во всех этапах жизненного цикла ИИ-систем. К числу заинтересованных сторон относятся, в частности, пра- вительства, межправительственные организации, профессиональное сообщество, обще- ственные организации, исследовательские и научные круги, СМИ, образовательные учрежде- ния, директивные органы, частные компании, правозащитные организации и органы по вопро- сам равенства, органы по мониторингу осуществления антидискриминационного законода- тельства и группы экспертов по проблемам молодежи и детей. В целях содействия развитию сотрудничества следует разработать и принять открытые стандарты и обеспечить функцио- нальную совместимость ИИ-систем. Кроме того, должны быть приняты меры, которые позво- лят учесть происходящие в сфере технологий фундаментальные изменения и появление но- вых групп заинтересованных сторон, а также обеспечат возможность конструктивного участия в таком сотрудничестве групп, сообществ и граждан, оттесненных на обочину социальной жизни, и, в соответствующих случаях, в частности, в случае коренных народов, уважение к самоуправлению их данными.
IV. ОБЛАСТИ, ТРЕБУЮЩИЕ ПРИНЯТИЯ СТРАТЕГИЧЕСКИХ МЕР
48. Стратегические меры, предлагаемые в описанных ниже приоритетных областях, направлены на практическую реализацию ценностных установок и принципов деятельности, сформулированных в настоящей Рекомендации. Основная задача государств-членов состоит в том, чтобы разработать эффективные меры, в частности, рамочные принципы или меха- низмы политики и обеспечить их применение другими заинтересованными сторонами, а именно частными компаниями, академическими или научно-исследовательскими учреждени- ями, а также общественными организациями, путем, среди прочего, поощрения всех заинте- ресованных сторон к разработке инструментов оценки воздействия на права человека, вер- ховенство права, демократию и этические нормы и проверки соблюдения таких норм в соот- ветствии с руководящими документами, включая принятые ООН Руководящие принципы предпринимательской деятельности в аспекте прав человека. Процесс разработки таких принципов или механизмов должен охватывать все заинтересованные стороны и обеспечи- ваться с учетом конкретных условий и первоочередных задач каждого государства-члена. ЮНЕСКО может выступить в роли партнера и оказать государствам-членам содействие в раз- работке стратегически значимых механизмов, а также в мониторинге и оценке их функциони- рования.
49. ЮНЕСКО принимает во внимание различия в стадии готовности государств-членов к выполнению этой Рекомендации с точки зрения научных, технологических, экономических, образовательных, правовых, нормативных, инфраструктурных, социальных, культурных и других аспектов. Следует отметить, что «готовность» в данном случае трактуется как дина- мично меняющийся статус. В связи с этим для обеспечения эффективного выполнения насто- ящей Рекомендации ЮНЕСКО намерена: (1) разработать методологию оценки готовности, ко- торая поможет заинтересованным государствам-членам в определении статуса своей готов- ности по целому ряду аспектов на конкретном этапе; и (2) обеспечить оказание заинтересо- ванным государствам-членам содействия в разработке методологии ЮНЕСКО для оценки этического воздействия (ОЭВ) ИИ-технологий, а также в распространении передовой прак- тики, методических рекомендаций и других инструментов и аналитических материалов по во- просам проведения такой оценки.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 1: ОЦЕНКА ЭТИЧЕСКОГО ВОЗДЕЙСТВИЯ
50. Государствам-членам следует ввести рамки для проведения оценок воздействия, в частности, оценок этического воздействия, в целях выявления и анализа преимуществ, про- блем и рисков, связанных с применением систем на основе ИИ, а также принятия надлежащих мер по предотвращению, минимизации и отслеживанию таких рисков и создания других га-
рантийных механизмов. В соответствии с принципами, изложенными в настоящей Рекомен- дации, такая оценка этического воздействия призвана выявлять возможные последствия при- менения ИИ-систем для прав человека и основных свобод, в частности прав маргинализиро- ванных и уязвимых групп населения или людей, оказавшихся в уязвимом положении, и прав в отношении труда, окружающей среды и экосистем, а также оценивать этические и социаль- ные последствия и облегчать участие граждан.
51. Государствам-членам и частным компаниям следует разработать механизмы контроля и проверки соблюдения этических норм, что позволит выявлять, предупреждать и минимизи- ровать воздействие ИИ-систем на соблюдение прав человека и обеспечение законности и защиты от дискриминации, а также оценивать эффективность таких механизмов. Кроме того, государствам-членам необходимо иметь возможность для оценки социально-экономического воздействия ИИ-систем на масштабы нищеты, с тем чтобы не допустить ни сегодня, ни в бу- дущем усугубления неравенства между людьми, живущими в условиях богатства и нищеты, а также цифрового неравенства на межстрановом и внутристрановом уровнях в результате массового внедрения технологий на основе ИИ. Для этого, в частности, должны быть введены в действие обязательные к применению стандарты прозрачности, согласующиеся с правом на доступ к информации, в том числе к находящейся в распоряжении частных юридических лиц информации, имеющей общественную значимость. Государствам-членам, частным ком- паниям и гражданскому обществу следует изучить социологические и психологические по- следствия вынесенных на основе ИИ рекомендаций для людей и их автономии принятия ре- шений. В рамках оценки этического воздействия следует провести широкое тестирование определенных в качестве потенциальной угрозы для прав человека ИИ-систем субъек- тами ИИ, в том числе в реальных условиях, в случае необходимости, прежде чем выпускать их на рынок.
52. Государствам-членам и частным компаниям следует принять надлежащие меры для обеспечения мониторинга на всех этапах жизненного цикла любой ИИ-системы, включая функционирование используемых для принятия решений алгоритмов, данных, а также участ- ников связанной с ИИ деятельности, особенно в сфере государственных услуг и в областях, требующих прямого взаимодействия с конечным потребителем, в рамках оценки этического воздействия. Обязательства государств-членов в области прав человека должны составлять неотъемлемую часть оценки этических аспектов системы на основе ИИ.
53. Правительствам следует утвердить нормативные положения, устанавливающие поря- док проведения, в том числе государственными органами, оценки этического воздействия ИИ-технологий в целях прогнозирования последствий, минимизации рисков, недопущения вредного воздействия, расширения участия граждан и решения стоящих перед обществом проблем. Кроме того, в рамках оценки должны быть предусмотрены соответствующие меха- низмы контроля, такие как проверки, оперативный контроль и получение разъяснений, кото- рые позволяли бы оценить алгоритмы, данные и методы проектирования ИИ-систем, а также предусматривали возможность проведения проверок внешними экспертами. Оценки этиче- ского воздействия должны осуществляться на транспарентной основе с возможностью озна- комления общественности с полученными результатами, по мере необходимости. Такие оценки должны носить многопрофильный, многосторонний, мультикультурный, плюралисти- ческий и инклюзивный характер. От государственных органов следует потребовать обеспече- ния контроля в отношении созданных и/или развернутых ими систем ИИ путем внедрения соответствующих механизмов и инструментов.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 2: ЭТИЧНОЕ УПРАВЛЕНИЕ И РУКОВОДСТВО
54. Государствам-членам следует обеспечить, чтобы механизмы управления в сфере ИИ-технологий имели всеохватный, транспарентный, комплексный, многосторонний (преду- сматривающий возможность смягчения последствий и возмещения причиненного вреда на межгосударственной основе) и объединяющий широкий круг заинтересованных сторон харак-
тер. В частности, система руководства должна включать компоненты прогнозирования и эф- фективных мер защиты, мониторинга воздействия, обеспечения выполнения и возмещения ущерба.
55. Государствам-членам следует обеспечить проведение расследований и возмещение ущерба, причиненного в результате применения ИИ-технологий, посредством использования эффективных обеспечительных механизмов и коррективных мер, которые гарантировали бы уважение прав человека, основных свобод и правовых норм в мире цифровых технологий точно также, как в реальном мире. Такие механизмы и меры должны включать варианты устранения последствий силами компаний структур частного и государственного секторов. С этой целью следует содействовать обеспечению возможности для проверки и отслеживания соблюдения предъявляемых к ИИ-системам требований. Кроме того, государствам-членам необходимо укреплять свои институциональные возможности для реализации своих обяза- тельств и взаимодействовать с исследовательским сообществом и другими заинтересован- ными сторонами в расследовании, предотвращении и смягчении последствий любых видов потенциально злоумышленного использования систем на основе ИИ.
56. Государствам-членам предлагается разработать национальные и региональные стра- тегии в отношении ИИ и рассмотреть возможность использования таких форм «мягкого» управления, как механизм сертификации ИИ-систем и взаимное признание своей сертифика- ции, принимая при этом во внимание чувствительность конкретной области применения ИИ-технологий и их потенциальное воздействие на права человека, состояние окружающей среды и экосистем, а также другие этические аспекты, рассматриваемые в настоящей Реко- мендации. Подобный механизм мог бы предусматривать различные уровни экспертизы си- стем, данных и соблюдения этических критериев и процедурных требований в отношении эти- ческих аспектов. При этом такой механизм не должен препятствовать инновационной дея- тельности или ставить в невыгодное положение малые и средние предприятия или начинаю- щие компании, гражданское общество, а также научно-исследовательские организации в ре- зультате чрезмерной административной нагрузки. Указанные механизмы должны включать также стандартный компонент мониторинга, который обеспечит защищенность ИИ-систем и их неизменную целостность и соответствие этическим требованиям на всем протяжении жиз- ненного цикла, а также при необходимости требовать повторной сертификации.
57. Государствам-членам и государственным органам власти следует проводить прозрач- ную самостоятельную оценку имеющихся и предлагаемых к внедрению систем ИИ, в рамках которой в числе прочего должна определяться целесообразность их применения. Подтвер- ждение целесообразности должно предусматривать дальнейшую оценку на предмет опреде- ления надлежащего метода и выявления обусловленного применением этих систем наруше- ния или ущемления прав человека вопреки обязательствам государств-членов в этой области, и, при выявлении таких последствий, запрещение применения этих систем.
58. Государствам-членам следует поощрять государственные учреждения, частные компа- нии организации гражданского общества к тому, чтобы привлекать различные заинтересован- ные стороны к своей работе по управлению ИИ-системами, а также рассмотреть возможность введения должности независимого сотрудника по этическим аспектам применения ИИ, либо предусмотреть какой-либо иной механизм, который обеспечит надзор за проведением оценок этического воздействия, проверок и постоянного мониторинга, а также методическое руковод- ство в вопросах этически корректного применения ИИ-систем. Государствам-членам, компа- ниям частного сектора и организациям гражданского общества предлагается при поддержке ЮНЕСКО создать сеть независимых сотрудников по вопросам этики ИИ для оказания под- держки в этой работе на национальном, региональном и международном уровнях.
59. Государствам-членам следует содействовать созданию доступной цифровой экоси- стемы поддержки этичного и инклюзивного развития ИИ-систем на национальном уровне, включая обеспечение беспрепятственного доступа к жизненному циклу ИИ-систем, а также
вносить свой вклад в международное сотрудничество в этой области. Такая экосистема смо- жет объединить в себе, в частности, цифровые технологии и поддерживающую инфраструк- туру, а также при необходимости механизмы обмена знаниями в области ИИ.
60. Государствам-членам во взаимодействии с международными организациями, трансна- циональными корпорациями, академическими учреждениями и общественными организаци- ями следует создать механизмы, которые обеспечат активное вовлечение всех государств- членов, прежде всего СНСД, в том числе НРС, РСНВМ и МОСРГ, в международные дискуссии по проблематике управления применением ИИ. Этот вопрос может быть решен путем выде- ления финансовых средств на обеспечение равного регионального представительства, либо задействования любых других механизмов. Кроме того, для обеспечения общедоступности форумов по проблематике ИИ государствам-членам необходимо содействовать въезду на свою территорию с целью участия в работе таких форумов и выезду субъектов связанной с ИИ деятельности, в первую очередь из СНСД, в том числе НРС, РСНВМ и МОСРГ.
61. Поправки, вносимые в действующее национальное законодательство, регулирующее вопросы применения ИИ-систем, а также новые законодательные меры должны соответство- вать обязательствам государств-членов в отношении правозащитных норм и поощрять права человека и основные свободы на всем протяжении жизненного цикла ИИ-системы. Такое по- ощрение должно осуществляться также в форме реализации инициатив в области управле- ния, популяризации успешных примеров практического взаимодействия в вопросах примене- ния ИИ-систем, а также распространения по мере развития таких технологий национальных и международных технических и методологических руководств. Соблюдение, защита и поощ- рение прав человека и основных свобод в рамках практической деятельности, связанной с применением ИИ-технологий на уровне различных секторов, включая частный сектор, должно обеспечиваться на основе положений существующих и новых нормативных документов и настоящей Рекомендации.
62. Государствам-членам, приобретающим ИИ-системы для таких чувствительных с точки зрения прав человека сфер использования, как правоохранительная деятельность, социаль- ное обеспечение, занятость, распространение медийных материалов и информации и здра- воохранение, а также система независимого судопроизводства, следует создать механизмы, которые обеспечат мониторинг социально-экономического воздействия таких систем соответ- ствующими надзорными органами, включая независимые органы по вопросам защиты данных, структуры надзора на уровне секторов и государственные органы надзора.
63. Государствам-членам следует расширить возможности принятия судебными органами решений, касающихся применения систем на основе ИИ, в соответствии с нормами права и международными стандартами, в том числе использования ИИ-систем в своей деятельности, обеспечивая при этом соблюдение принципа контроля со стороны человека. В случае исполь- зования ИИ-систем судебными органами необходимы достаточные защитные механизмы, га- рантирующие, в частности, защиту основополагающих прав человека, верховенство права, независимость судебной власти и соблюдение принципа человеческого надзора, а также обеспечивающие надежную основу и ориентацию на общественные и общечеловеческие ин- тересы при разработке и использовании ИИ-систем в судебных органах.
64. Государствам-членам следует предусмотреть выполнение правительствами и много- сторонними организациями определяющей роли в обеспечении безопасности и защищенно- сти ИИ-систем на основе многостороннего участия. В частности, государствам-членам, меж- дународным организациям и другим соответствующим структурам следует разработать меж- дународные стандарты с описанием поддающихся измерению и проверке уровней безопас- ности и прозрачности, что позволит объективно оценивать системы на основе ИИ и опреде- лять степень их соответствия требованиям. Кроме того, государствам-членам и частным предприятиям следует целенаправленно содействовать проведению стратегических иссле- дований в отношении потенциальных рисков в области безопасности и защищенности
ИИ-технологий, а также поощрять исследование проблем, касающихся прозрачности, объяс- нимости, инклюзивности и грамотности, посредством дополнительного финансирования этих направлений работы в рамках различных областей и на различных уровнях (на техническом и естественном языках).
65. Государствам-членам следует принять регламентирующие положения, которые на всем протяжении жизненного цикла ИИ-систем обеспечат согласованность мер, принимаемых субъектами связанной с ИИ деятельности, с международными нормами, стандартами и прин- ципами в области прав человека, при всестороннем учете существующих социально-культур- ных различий, в том числе местных обычаев и религиозных традиций, а также приоритета и универсальности прав человека.
66. Государствам-членам следует внедрять механизмы, которые обяжут субъектов связан- ной с ИИ деятельности предавать гласности и пресекать появление в конечном продукте ИИ-систем и данных любых видов стереотипизации, обусловленной как алгоритмами работы таких систем, так и человеческой невнимательностью, а также обеспечить, чтобы используе- мые для обучения ИИ-систем наборы данных не становились причиной культурного, социаль- ного или экономического неравенства, предрассудков, распространения заведомо ложной и недостоверной информации, а также нарушения свободы выражения мнений и доступа к ин- формации. Особое внимание следует уделить регионам, в которых имеется дефицит таких данных.
67. Государствам-членам следует осуществлять политику поощрения и расширения разно- образия и инклюзивности репрезентативного для своего населения состава коллективов, за- нимающихся разработкой ИИ-систем и наборов данных для их обучения, а также обеспечения равного доступа к технологиям ИИ и полученным с их помощью благам, в первую очередь для социально изолированных групп населения сельских и городских районов.
68. Государствам-членам следует разработать, проанализировать и в необходимых слу- чаях пересмотреть нормативно-правовые рамки, с тем чтобы обеспечить подотчетность и от- ветственность в отношении используемых данных и результатов работы ИИ-систем на раз- личных этапах их жизненного цикла. Государствам-членам следует в случае необходимости утвердить рамочные принципы ответственности либо уточнить толкование уже существую- щих рамок для определения объектов ответственности за результаты работы ИИ-систем и функционирование используемых в них алгоритмов. Кроме того, при разработке нормативно- правовой базы государствам-членам следует учитывать, в частности, что конечная ответ- ственность за результат должна во всех случаях лежать на физическом или юридическом лице (лицах) и что сами ИИ-системы не могут наделяться статусом юридического лица. Для этого такие нормативные рамки должны сообразовываться с принципом человеческого кон- троля и предусматривать комплексный подход, учитывающий круг заинтересованных сторон в области ИИ и методы, используемые на различных этапах жизненного цикла ИИ-систем.
69. Для разработки нормативных положений, в случае отсутствия таковых, а также для вне- сения изменений в существующую нормативную базу государствам-членам следует задей- ствовать потенциал всех субъектов связанной с ИИ деятельности (в том числе исследовате- лей, представителей гражданского общества и правоохранительных органов, страховых, ин- вестиционных и производственных компаний, инженеров-разработчиков, юристов и конечных потребителей). Такие нормативные положения могут впоследствии трансформироваться в рекомендуемые стандарты, законы и нормативные акты. Наряду с этим, для ускорения раз- работки и регулярного пересмотра законов, нормативных актов и руководящих документов в контексте стремительного развития новых технологий и в целях их апробирования в безопас- ных условиях до официального вступления в силу государствам-членам предлагается ис- пользовать такие подходы, как принятие прототипных норм и «регулятивные песочницы». Гос- ударствам-членам следует оказывать поддержку местным органам власти в деле разработки местных стандартов, положений и законов, согласующихся с национальными и международ- ными правовыми рамками.
70. Государствам-членам следует сформулировать четкие требования в отношении про- зрачности и объяснимости искусственных интеллектуальных систем, с тем чтобы обеспечить доверие к ним на всех этапах их жизненного цикла. Эти требования должны касаться, в част- ности, разработки и внедрения механизмов оценки воздействия, учитывающих особенности сферы применения, цель использования, целевую аудиторию и практическую применимость каждой конкретной ИИ-системы.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 3: ПОЛИТИКА В ОТНОШЕНИИ ДАННЫХ
71. Государствам-членам следует разработать стратегии управления данными, обеспечи- вающие непрерывную оценку качества данных, используемых для обучения ИИ-систем, в том числе адекватности процессов сбора и осуществления выборки данных, надежности мер по обеспечению безопасности и защиты данных, а также создать механизмы обратной связи для анализа и учета допущенных ошибок и обмена успешным опытом всеми субъектами связан- ной с ИИ деятельности.
72. Государствам-членам следует обеспечить соответствующие гарантии соблюдения права на неприкосновенность личной информации в соответствии с нормами международ- ного права, включая решение такой проблемы, как наблюдение за гражданами. Государ- ствам-членам следует, среди прочего, обеспечить принятие или выполнение правовых норм, предусматривающих надлежащую защиту, в соответствии с международным правом. Госу- дарствам-членам следует настоятельно рекомендовать всем субъектам связанной с ИИ дея- тельности, включая частные компании, придерживаться существующих международных стан- дартов и, в частности, предусмотреть в рамках проведения оценок этического воздействия надлежащую оценку воздействия на предмет неприкосновенности личной информации в кон- тексте общего воздействия предполагаемой обработки данных на социально-экономическое положение, а также соблюдать принцип неприкосновенности личной информации в своих ИИ- системах. Право на неприкосновенность личной информации должно соблюдаться, защи- щаться и поощряться на всем протяжении жизненного цикла ИИ-систем.
73. Государствам-членам следует обеспечить сохранение за частными лицами прав в отно- шении их персональных данных, а также право на защиту, закрепленное рамочным докумен- том, предусматривающим, в частности, прозрачность, надлежащие меры защиты в отноше- нии обработки конфиденциальных данных, надлежащий уровень защищенности данных, эф- фективные и продуманные схемы и механизмы подотчетности, реализацию субъектами дан- ных в полном объеме своих прав и возможностей доступа к своим персональным данным в системах ИИ и их удаления, за исключением определенных обстоятельств, предусмотренных международным правом, надлежащий уровень защиты в полном соответствии с законода- тельными нормами защиты данных в ситуациях использования данных в коммерческих целях, таких, как реклама на микроуровне и трансграничная передача данных, а также эффективный независимый надзор как часть механизма управления данными, который обеспечивает посто- янный контроль граждан над своими личными данными и расширение преимуществ свобод- ного обмена информацией на международном уровне, включая доступ к данным.
74. Государствам-членам следует разработать правила и стандарты в отношении данных или эквивалентные рамочные принципы, либо провести пересмотр существующих регламен- тирующих положений, с тем чтобы обеспечить всестороннюю защиту персональных и конфи- денциальных данных, которые, в случае их разглашения, могут причинить людям значитель- ный ущерб, физический вред или страдания. В качестве примера можно привести данные о совершении правонарушений, судебных разбирательствах и обвинительных приговорах и связанных с этим мерах пресечения, биометрические и генетические данные, а также данные, касающиеся здоровья и персональные данные, касающиеся, в частности, расовой принад- лежности, цвета кожи, происхождения, гендерной принадлежности, возраста, языка, религии, политических убеждений, национального, этнического, социального происхождения, экономи- ческих или социапьных условий рождения, инвалидности и любых иных факторов.
75. Государствам-членам следует поощрять открытые данные. В этом отношении государ- ствам-членам надлежит, среди прочего, изучить вопрос пересмотра своей политики и регла- ментационных рамок, в том числе касающихся доступа к информации и открытых систем государственного управления, чтобы отразить конкретные требования, связанные с ИИ-системами, и предусмотреть механизмы содействия открытому обмену данными, такие, как открытые репозитарии данных, которые финансируются государством или принадлежат государству, и фонды исходных кодов и данных, чтобы содействовать безопасному и спра- ведливому обмену данными на законной и этической основе.
76. Государствам-членам следует поощрять и облегчать использование качественных и за- щищенных наборов данных для обучения, развития и применения ИИ-систем, а также осу- ществлять бдительный контроль при их сборе и использовании. Такие усилия при наличии возможностей и в случае практической осуществимости могли бы включать финансирование подготовки наборов данных «золотой стандарт», в частности открытых и заслуживающих до- верия разнообразных наборов данных, созданных на законных основаниях, в том числе с со- гласия в необходимых случаях субъектов данных. Следует поощрять разработку стандартов для аннотирования наборов данных, включая разбивку данных по полу и другим категориям, что позволит легко выяснять способ, применявшийся при создании набора данных, и харак- теристики самого набора.
77. В соответствии с рекомендацией, содержащейся в докладе Группы высокого уровня Ге- нерального секретаря ООН по цифровому сотрудничеству, государствам-членам при под- держке ООН и ЮНЕСКО следует утвердить применение в необходимых случаях в отношении данных принципа «общего цифрового достояния», обеспечить более высокую функциональ- ную совместимость инструментов и наборов данных, а также интерфейсов систем размеще- ния данных, и поощрять частные компании в необходимых случаях обмениваться собран- ными ими данными со всеми заинтересованными сторонами для целей проведения исследо- ваний, инноваций или в интересах общества. Кроме того, им следует поощрять усилия орга- низаций государственного и частного сектора, направленные на создание совместных плат- форм для обмена качественными данными, хранящимися в надежных и защищенных про- странствах данных.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 4: РАЗВИТИЕ И МЕЖДУНАРОДНОЕ СОТРУДНИЧЕСТВО
78. Государствам-членам и транснациональным корпорациям следует уделять приоритет- ное внимание этическим аспектам ИИ посредством включения дискуссий по этим вопросам в программы соответствующих международных, межправительственных и многосторонних фо- румов.
79. Государствам-членам следует обеспечить, чтобы применение ИИ в связанных с разви- тием областях, в частности таких, как образование, наука, культура, коммуникация и инфор- мация, здравоохранение, сельское хозяйство, продовольственное обеспечение, окружающая среда, природные ресурсы и управление инфраструктурой, экономическое планирование и экономический рост, осуществлялось в соответствии с ценностными установками и принци- пами деятельности, сформулированными в настоящей Рекомендации.
80. Государствам-членам следует взаимодействовать с международными организациями в деле создания основ для международного сотрудничества в вопросах использования ИИ в интересах развития, в том числе путем оказания экспертного содействия, предоставления финансовой помощи, данных, знаний в предметных областях и технических средств, а также содействия развитию многостороннего сотрудничества в целях преодоления сложных про- блем в области развития, стоящих в первую очередь перед СНСД, в частности НРС, РСНВМ и МОСРГ.
81. Государствам-членам следует поощрять международное сотрудничество в вопросах научно-внедренческой деятельности, связанной с использованием ИИ, в том числе на уровне
исследовательских и инновационных центров и сетей, что будет способствовать расширению участия и повышению роли в таком сотрудничестве исследователей из СНСД, в частности НРС, РСНВМ и МОСРГ.
82. Государствам-членам путем привлечения международных организаций, научно-иссле- довательских учреждений и транснациональными корпораций следует содействовать прове- дению исследований, касающихся этических аспектов ИИ, которые стали бы основой для эти- чески корректного применения ИИ-систем государственными и частными структурами, в том числе исследований на предмет применимости определенных этических норм в конкретных культурах и условиях, а также возможности разработки осуществимых с технической точки зрения решений в соответствии с этими нормами.
83. Государствам-членам следует поощрять международное сотрудничество и взаимодей- ствие в сфере ИИ в целях преодоления географических и технологических барьеров. Обмен научно-техническими знаниями и обсуждение вопросов развития технологий должны проис- ходить между властями и населением государств-членов, государственным и частным секто- рами и на двусторонней и многосторонней основе между наиболее и наименее технологиче- ски развитыми государствами в полном соответствии с международным правом.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 5: ОКРУЖАЮЩАЯ СРЕДА И ЭКОСИСТЕМЫ
84. Государствам-членам и частным компаниям следует провести оценку прямого и опосре- дованного экологического воздействия ИИ-систем на всех этапах их жизненного цикла, в том числе оценку углеродного следа, энергопотребления и воздействия на окружающую среду вследствие добычи сырья, необходимого для развития ИИ-технологий, и сократить воздей- ствие ИИ-систем и инфраструктур данных на окружающую среду. Государствам-членам надлежит обеспечить соблюдение всеми субъектами связанной с ИИ деятельности положе- ний законодательства, политики и процедур, касающихся охраны природы.
85. Государствам-членам следует в необходимых и уместных случаях предусмотреть внед- рение стимулов для поощрения разработки и принятия этически мотивированных и основан- ных на правозащитном подходе решений на основе ИИ в целях повышения устойчивости к различного рода угрозам бедствий, обеспечения мониторинга состояния, защиты/восстанов- ления экологии и экосистем и сохранения нашей планеты. Использование систем на основе ИИ должно предусматривать участие общин местного и коренного населения на всем протя- жении жизненного цикла таких систем и способствовать применению подходов экономики за- мкнутого цикла и устойчивых моделей потребления и производства. В качестве примеров не- обходимого и уместного применения ИИ можно привести их использование в следующих це- лях:
(a) содействие усилиям в области охраны, мониторинга состояния и рационального использования природных ресурсов;
(b) содействие в вопросах прогнозирования, предотвращения, контроля и смягчения проблем, связанных с изменением климата;
(c) содействие повышению эффективности и устойчивости экосистемных функций, связанных с продовольственным обеспечением;
(d) содействие ускорению перехода к экологически безопасной энергетике и широ- кому внедрению соответствующих технологий;
(e) поддержка и поощрение широкого применения жизнеспособных технических ре- шений, внедрения экологичных моделей хозяйствования и создание стабильной финансовой основы в интересах устойчивого развития;
(f) выявление присутствия загрязняющих веществ и прогнозирование уровней загряз- нения в качестве содействия соответствующим заинтересованным сторонам в определении параметров, планировании и осуществлении целевых мер по предот- вращению и снижению уровня загрязнения и связанных с ним последствий.
86. С учетом потенциальной информационно- и ресурсоемкости некоторых методов, свя- занных с применением ИИ, их зависимости от больших объемов данных и, соответственно, воздействия на окружающую среду государствам-членам при выборе соответствующих мето- дов следует обеспечить, чтобы субъекты связанной с ИИ деятельности руководствовались принципом соразмерности, отдавая предпочтение энерго- и ресурсоэффективным, в том числе с точки зрения объемов данных, методам. Необходимо разработать соответствующие требования, предусматривающие представление подтверждающих данных, указывающих на то, что применение конкретной системы искусственного интеллекта даст ожидаемый эффект, или возможность использования в качестве такого подтверждения гарантий разработчиков соответствующей ИИ-системы. Если это невозможно, следует отдавать предпочтение прин- ципу предосторожности и отказаться от использования ИИ в случаях, когда оно влечет за со- бой диспропорциональные негативные последствия для окружающей среды.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 6: ГЕНДЕРНОЕ РАВЕНСТВО
87. Государствам-членам следует обеспечить, чтобы потенциал применения цифровых тех- нологий и искусственного интеллекта в максимальной степени способствовал достижению цели гендерного равенства и чтобы ни на одном из этапов жизненного цикла ИИ-системы не нарушались права человека и основные свободы девочек и женщин, а также право на личную безопасность и неприкосновенность. Кроме того, необходимо, чтобы при проведении оценок этического воздействия ИИ использовался сквозной гендерный подход.
88. Государствам-членам следует предусмотреть в своих бюджетах целевые ассигнования на финансирование программ в поддержку гендерного равенства, а также обеспечить вклю- чение в национальные стратегии цифрового развития специальных планов действий по до- стижению гендерного равенства и разработку надлежащих директивных документов, в част- ности, в сфере профессионального образования, ориентированных на поддержку девочек и женщин с точки зрения расширения их участия в построении цифровой экономики на основе ИИ-технологий. Следует также продумать и осуществить меры по целевому финансированию программ и использованию гендерно неспецифического языка в целях расширения представ- ленности девушек и женщин в области естественных наук, техники, инженерии и матема- тики (ЕНТИМ), в том числе в сфере информационно-коммуникационных технологий (ИКТ), а также расширить возможности в отношении получения ими профессиональных навыков, тру- доустройства, продвижения по службе и профессионального роста на равноправной основе.
89. Государствам-членам следует обеспечить использование потенциала систем на основе ИИ для улучшения положения дел в области гендерного равенства. Им надлежит обеспечить такое положение, при котором ИИ-технологии не усугубят и без того существенное неравен- ство между мужчинами и женщинами в целом ряде областей аналогового мира, а напротив, устранят это неравенство. Речь, в частности, идет о существующем в наших обществах ген- дерном неравенстве в таких аспектах, как оплата труда, представленность в определенных профессиях и видах деятельности, представленность на высших руководящих должностях, в советах директоров и исследовательских группах в сфере ИИ, возможности в сфере образо- вания, доступ к цифровым/ИИ-технологиям, включая аспекты внедрения, использования и це- новой доступности, неравенство в соотношении объема выполняемой неоплачиваемой ра- боты и домашних обязанностей и т.п.
90. Государствам-членам следует не допустить закрепления гендерных стереотипов и предубеждений дискриминационного характера в искусственных интеллектуальных системах, а напротив, обеспечить их выявление и инициативное устранение. Необходимы усилия, кото- рые позволят избежать комплексного негативного воздействия технологического неравенства
на достижение целей в области гендерного равенства, а также исключат такие формы наси- лия в отношении девочек и женщин, как притеснения, запугивание и торговля, а также наси- лие в отношении других недостаточно представленных групп, в том числе в интернете.
91. Государствам-членам следует поощрять женское предпринимательство, участие и во- влечение женщин во все этапы жизненного цикла ИИ-систем путем инициирования и поощ- рения, в числе прочих схем стимулирования и поддержки, экономических и нормативных сти- мулов, а также осуществления политики, направленной на обеспечение гендерно сбаланси- рованного участия в связанной с ИИ исследовательской деятельности в системе высшего об- разования и научных учреждениях и сбалансированной гендерной представленности на выс- ших руководящих должностях, в советах директоров и в исследовательских группах цифро- вых и ИИ-компаний. Государствам-членам следует обеспечить направление средств из госу- дарственных источников (выделяемых на цели научно-технических разработок и инноваций) на осуществление инклюзивных программ и деятельность компаний, использующих инклю- зивные бизнес-модели и обеспечивающих наглядную гендерную представленность, а также аналогичным образом поощрять частные инвестиции на основе принципа позитивного вырав- нивания. Следует разрабатывать и применять на практике правила и стандарты, направлен- ные на создание свободных от притеснений условий, а также содействовать продвижению успешного опыта в области поощрения гендерного разнообразия на всем протяжении жиз- ненного цикла ИИ-системы.
92. Государствам-членам следует поощрять гендерное разнообразие в сфере связанных с ИИ научных исследований, проводимых научно-образовательным и производственным сек- торами, посредством предоставления девушкам и женщинам льготного доступа к данной об- ласти деятельности, а также создания механизмов противодействия гендерным стереотипам и притеснению в исследовательской среде, поощрения академических и частных структур к обмену позитивным опытом в вопросах содействия гендерному разнообразию.
93. ЮНЕСКО может содействовать созданию репозитория передового опыта в области сти- мулирования участия женщин, девушек и недостаточно представленных групп населения во всех этапах жизненного цикла ИИ-систем.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 7: КУЛЬТУРА
94. Государствам-членам рекомендуется в соответствующих случаях применять ИИ-системы в деятельности, связанной с сохранением, развитием, углублением понимания, популяризацией, рациональным использованием и повышением доступности материального, документального и нематериального культурного наследия, включая находящиеся под угро- зой исчезновения языки, а также языки и знания коренных народов, в частности, посредством разработки или актуализации в надлежащих случаях образовательных программ, касаю- щихся использования систем ИИ в этих областях и обеспечения применения основанного на широком участии подхода, ориентированного на интересы учреждений и граждан.
95. Государствам-членам рекомендуется исследовать и принимать во внимание культур- ные аспекты воздействия ИИ-систем, в особенности прикладных программ обработки есте- ственного языка, таких, как автоматизированный перевод и голосовые помощники, на нюансы передачи человеческого языка и человеческой речи. Такие исследования должны обеспечить интеллектуальный вклад в разработку и осуществление стратегий, направленных на дости- жение максимальной отдачи от применения таких систем, посредством восполнения культур- ных пробелов и углубления человеческого понимания, а также на минимизацию потенциаль- ных негативных последствий, таких как сокращение масштабов использования языков, кото- рое может стать причиной исчезновения редких языков, местных диалектов, тональных и культурных вариаций человеческого языка и речи.
96. С учетом применения технологий на основе ИИ для создания, производства, распро- странения, трансляции и потребления широкого спектра товаров и услуг культурного назна- чения и принимая во внимание важность сохранения культурного наследия, культурного раз- нообразия и свободы творческого самовыражения, государствам-членам следует содейство- вать развитию обучения и профессиональной подготовки творческих работников и специали- стов креативной отрасли в вопросах применения ИИ и цифровых технологий в целях оценки ими целесообразности применения таких технологий в своей профессиональной деятельно- сти, а также способствовать разработке и использованию соответствующих ИИ-систем.
97. Государствам-членам следует повышать осведомленность местных индустрий и малых и средних предприятий в сфере культуры в отношении имеющегося ИИ-инструментария, а также поощрять оценку ими такого инструментария для предотвращения рисков высокой кон- центрации на рынке товаров и услуг культурного назначения.
98. Государствам-членам следует привлекать технологические компании и другие заинте- ресованные стороны к усилиям по поощрению разнообразия форм культурного самовыраже- ния на рынке культурных товаров и к расширению вариантов доступа к такого рода продукции, в частности, к обеспечению наглядности и доступности местного контента в используемых алгоритмических процессах.
99. Государствам-членам следует поощрять проведение научных исследований на стыке искусственного интеллекта и проблематики интеллектуальной собственности, в частности, чтобы определить, следует ли применять право интеллектуальной собственности в целях за- щиты произведений, созданных посредством ИИ-технологий, и каким образом. Государствам- членам следует также провести оценку воздействия технологий ИИ на права или интересы обладателей прав интеллектуальной собственности, чьи работы используются для научных исследований, разработки, тренировки или внедрения приложений на базе ИИ.
100. Государствам-членам следует поощрять национальные музеи, галереи, библиотеки и архивы к применению систем на основе ИИ для привлечения внимания к своим коллекциям, совершенствования своих библиотек, баз данных и знаний и предоставления доступа к ним своих пользователей.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 8: ОБРАЗОВАНИЕ И НАУЧНЫЕ ИССЛЕДОВАНИЯ
101. Государствам-членам следует сотрудничать с международными организациями, обра- зовательными учреждениями и частными и неправительственными структурами в деле эф- фективного распространения ИИ-грамотности на всех уровнях среди населения всех стран в интересах повышения самостоятельности людей и сокращения цифрового отставания и не- равенства в доступе к цифровым технологиям в результате широкого внедрения ИИ-систем.
102. Государствам-членам следует поощрять приобретение компетенций, «изначально тре- буемых» для обучения навыкам использования ИИ, таких как базовые навыки грамотности и счета, умение работать с данными и цифровыми технологиями, медийно-информационная грамотность, а также критическое и креативное мышления, умение работать в команде, ком- муникативные, социально-эмоциональные навыки и навыки этичного применения ИИ, что осо- бенно актуально для регионов, стран и их областей, существенно отстающих в вопросах обу- чения таким навыкам.
103. Государствам-членам следует содействовать осуществлению программ, направленных на повышение общей осведомленности о достижениях в области ИИ, в том числе о данных и потенциальных возможностях и проблемах, обусловленных развитием ИИ-технологий, об их воздействии на права человека и их последствиях, в том числе для прав ребенка. Такие про- граммы должны быть доступны как для подготовленной, так и для не обладающей специаль- ными знаниями аудитории.
104. Государствам-членам следует поощрять исследования по вопросам ответственного и этичного применения технологий на основе ИИ, в том числе в сфере преподавания, подго- товки преподавательских кадров и электронного обучения, в целях расширения потенциаль- ных возможностей, минимизации потенциальных трудностей и смягчения рисков в этой обла- сти. Такие инициативы должны подкрепляться адекватной оценкой воздействия применения ИИ-технологий на качество образования, на самих обучающихся и их преподавателей. Госу- дарствам-членам следует также обеспечить, чтобы технологии на основе ИИ способствовали повышению самостоятельности обучающихся и их преподавателей и обогащению их опыта, имея в виду, что межличностные и социальные аспекты, а также ценность традиционных форм обучения имеют важнейшее значение для развития отношений обучающихся с препо- давателями и с другими учащимися и должны приниматься в расчет при обсуждении вопросов, касающихся внедрения ИИ-технологий в сфере образования. Когда речь идет о мониторинге, оценке способностей или прогнозировании поведения учащегося, к используемым в обучение ИИ-системам должны предъявляться жесткие требования. ИИ должен поддерживать процесс обучения, не приводя к сокращению когнитивных возможностей и не извлекая чувствитель- ную информацию в соответствии со стандартами защиты личных данных. Передаваемые в целях информации данные, собранные в ходе взаимодействия учащегося с ИИ-системой, не должны становиться объектом неправомерного использования, злоупотребления или приме- нения в преступных целях.
105. Государствам-членам следует содействовать тому, чтобы учебные программы по тема- тике ИИ различного уровня охватывали девочек и женщин, лиц с инвалидностью, представи- телей разных этносов и культур, маргинализированных и уязвимых групп населения или лиц, оказавшихся в уязвимом положении, меньшинств и всех тех, кто лишен возможности в полной мере пользоваться преимуществами цифровых технологий, а также способствовали разви- тию у них лидерских качеств, мониторингу и обмену передовым опытом в этих вопросах с другими государствами-членами.
106. Государствам-членам следует, в соответствии с национальными планами развития об- разования и местными традициями, разрабатывать учебные курсы по этическим аспектам ИИ для всех ступеней образования и поощрять совмещение обучения техническим навыкам при- менения ИИ с социально-гуманитарными и этическими аспектами использования ИИ-технологий. Онлайновые курсы и цифровые образовательные ресурсы по этическим ас- пектам ИИ должны разрабатываться на местных языках, включая языки коренных народов, с учетом разнообразия среды и особенно в удобных для доступа лиц с ограниченными возмож- ностями форматах.
107. Государствам-членам следует поощрять и поддерживать исследования в области ИИ, в частности, касающиеся его этических аспектов, путем, например, финансирования этого направления деятельности или стимулирования государственного и частного секторов к ин- вестированию средств в эту сферу, признавая, что исследования вносят значительный вклад в дальнейшее развитие и усовершенствование технологий ИИ, с целью содействия соблюде- нию международного права и сформулированных в настоящей Рекомендации ценностей и принципов. Государствам-членам также следует публично поощрять передовую практику и сотрудничать с исследователями и компаниями, обеспечивающими этическую разработку ИИ-систем.
108. Государствам-членам следует обеспечить, чтобы занимающиеся проблематикой ИИ ис- следователи имели подготовку в вопросах учета этических аспектов при проведении научных исследований, а также требовать от них включения этического компонента в планы проведе- ния исследований, результаты исследований и публикации, в особенности в аналитические выводы в отношении использовавшихся наборов данных и методов их аннотирования, а также в отношении качества и диапазона полученных результатов с возможными приклад- ными программами.
109. Государствам-членам следует рекомендовать частным компаниям содействовать до- ступу научного сообщества к имеющимся у них данным для целей проведения исследований, в особенности в СНСД, в том числе НРС, РСНВМ и МОСРГ. Такой доступ должен соответ- ствовать применимым стандартам неприкосновенности частной жизни и защиты данных.
110. Для обеспечения принципиально значимой оценки связанных с ИИ исследований и надлежащего мониторинга потенциального неправомерного использования или негативных последствий применения ИИ-технологий государствам-членам следует предусмотреть обос- нование любых будущих нововведений, связанных с использованием ИИ-технологий, углуб- ленными и независимыми научными исследованиями, а также поощрять проведение междис- циплинарных исследований в области ИИ, предусматривающих наряду с естественно-науч- ным, инженерно-техническим и математическим компонентами (ЕНТИМ) включение других дисциплин, таких, как культурология, образование, этика, международные отношения, право, лингвистика, философия, политология, социология и психология.
111. Наряду с признанием того, что технологии на основе ИИ открывают широчайшие воз- можности для развития науки и методов научного познания, в особенности в том, что касается модельно ориентированных дисциплин, государствам-членам следует поощрять научные со- общества к осознанию плюсов, ограничений и потенциальных рисков, связанных с их исполь- зованием; это предполагает стремление обеспечить надежность и обоснованность выводов, зиждущихся на подходах, моделях и режимах работы, управляемых данными. Государствам- членам следует также приветствовать роль и поддерживать участие научного сообщества в выработке стратегических подходов и углублении понимания преимуществ и недостатков тех- нологий на основе искусственного интеллекта.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 9: КОММУНИКАЦИЯ И ИНФОРМАЦИЯ
112. Государствам-членам следует использовать ИИ-системы для улучшения доступа к ин- формации и знаниям. Эти меры могут включать поддержку исследователей, академического сообщества, журналистов, широкой общественности и разработчиков в интересах поощрения свободы выражения мнений, академических и научных свобод и доступности информации, а также более широкое инициативное раскрытие официальных данных и информации.
113. Государствам-членам следует следить за тем, чтобы все субъекты ИИ уважали и поощ- ряли свободу выражения мнений и доступность информации в отношении автоматизирован- ного генерирования, модерирования и курирования контента. Надлежащие рамки, в том числе регламентационные, должны обеспечивать прозрачность онлайновой работы информацион- ных и коммуникационных операторов и гарантировать доступ пользователей к разнообраз- ным мнениям, а также наличие процедур незамедлительного уведомления пользователей о причинах удаления контента или иных форм его обработки, наряду с механизмами обжало- вания, позволяющими пользователям искать правовой защиты.
114. Государствам-членам следует инвестировать в формирование навыков в области циф- ровой, медийной и информационной грамотности и содействовать их развитию в целях укреп- ления критического мышления и компетенций, необходимых для понимания использования и воздействия ИИ-систем с тем, чтобы противостоять заведомо ложной и недостоверной ин- формации и языку ненависти и смягчать их последствия. Такие меры должны включать более подробное разъяснение и оценку положительного и потенциально вредного воздействия ре- комендуемых систем.
115. Государствам-членам следует создавать благоприятную среду для средств информа- ции, чтобы они располагали правами и ресурсами для освещения позитивного и негативного воздействия ИИ-систем действенным образом, а также поощрять средства информации к ис- пользованию в своей работе ИИ-систем на этической основе.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 10: ЭКОНОМИКА И РЫНОК ТРУДА
116. Государствам-членам следует обеспечить оценку и учет воздействия, оказываемого ИИ-технологиями на рынки труда, а также на требования, предъявляемые к образованию во всех странах, в первую очередь в странах с трудозатратной моделью экономики. Это может предполагать включение широкого спектра «базовых» и междисциплинарных навыков в учеб- ные программы всех ступеней образования, с тем чтобы обеспечить нынешнее и будущие поколения работников равными возможностями трудоустройства в условиях стремительно меняющихся рынков труда, а также повысить уровень их осведомленности об этических ас- пектах систем на основе ИИ. Наряду со специализированными и техническими навыками, а также с навыками выполнения задач, не требующих высокой квалификации, предметом изу- чения должны стать такие навыки, как умение «учиться познавать», общаться, критически мыслить, работать в команде, сопереживать и делиться своими знаниями в различных обла- стях. Ключевое значение имеют ясность в отношении востребованных навыков и актуализа- ция учебных программ.
117. Для приведения программ и стратегий в области профессионального образования в со- ответствие с будущими формами деятельности и потребностями экономики, в том числе ма- лых и средних предприятий, государствам-членам следует поддерживать заключение согла- шений о сотрудничестве между правительственными и академическими учреждениями, а также учреждениями профессионального образования и подготовки, производственным сек- тором, организациями трудящихся и общественными организациями в целях устранения де- фицита в требуемых наборах навыков. Для развития партнерского взаимодействия между государственными учреждениями, частными компаниями, вузами и научно-исследователь- скими центрами необходимо поощрять проектно-ориентированные методы преподавания и обучения в области искусственного интеллекта.
118. Государствам-членам следует сотрудничать с частными компаниями, неправитель- ственными организациями и другими заинтересованными сторонами, включая трудящихся и профсоюзы, на предмет организации справедливых условий переобучения сотрудников, рис- кующих потерять работу. Это предполагает реализацию программ повышения квалификации и профессиональной переподготовки, поиск эффективных механизмов сохранения за сотруд- никами их рабочих мест на период переобучения, а также изучение возможностей включения в программы социальной помощи тех, кто не сможет сохранить работу. Государствам-членам следует разрабатывать и осуществлять программы по изучению и поиску решения выявлен- ных проблем, в том числе посредством повышения квалификации и профессиональной пере- подготовки, укрепления систем социальной защиты, реализации производственным сектором эффективных стратегий и заблаговременных продуманных мер, налоговых льгот, новых форм налогообложения и т.п. Государствам-членам следует обеспечить достаточное госу- дарственное финансирование в поддержку таких программ. Для преодоления последствий безработицы, вызванной автоматизацией производственных процессов на основе ИИ-технологий, необходимо провести углубленный анализ соответствующих нормативных положений, таких как налоговые режимы.
119. Государствам-членам следует поощрять и поддерживать исследовательское сообще- ство в проведении оценки воздействия ИИ-систем на состояние местных рынков труда, что позволит предвосхищать будущие изменения и проблемы в этой области. Внимание в таких исследованиях необходимо уделять междисциплинарному подходу и изучению экономиче- ских, социальных и географических аспектов воздействия, а также вопросам человеко-ма- шинного взаимодействия и межчеловеческих отношений, что позволит сформулировать оп- тимальные рекомендации в отношении профессиональной переподготовки и передислокации рабочей силы.
120. Государствам-членам следует принять надлежащие меры по обеспечению конкуренции на рынках и защиты потребителей и рассмотреть возможность создания соответствующих
механизмов на национальном, региональном и международном уровнях для предотвраще- ния на всем протяжении жизненного цикла ИИ-систем злоупотребления доминирующим по- ложением на рынке, будь то в сфере обработки данных, научных исследований, технологий или маркетинга. Государствам-членам следует предотвращать возникновение соответствую- щих форм неравенства, провести оценку соответствующих рынков и оказывать содействие конкурентным рынкам. Следует уделять надлежащее внимание СНСД, в частности НРС, РСНВМ и МОСРГ, которые более уязвимы и в бо̀ льшей степени подвержены риску злоупо- требления доминирующим положением на рынке в связи с недостаточно развитой инфра- структурой, дефицитом кадрового потенциала и регулирующих норм, а также с другими фак-
торами. Субъектам ИИ, разрабатывающим ИИ-системы в странах, установивших или приняв- ших этические стандарты для ИИ, следует соблюдать эти стандарты при экспорте своей про- дукции, разработке или применении своих ИИ-систем в странах, где таких стандартов может не быть, а также соблюдать применимые нормы международного права и внутреннего зако- нодательства, стандарты и практику этих стран.
ПРИОРИТЕТНАЯ ОБЛАСТЬ 11: ЗДОРОВЬЕ И СОЦИАЛЬНОЕ БЛАГОПОЛУЧИЕ
121. Государствам-членам следует стремиться использовать эффективные системы на ос- нове ИИ в целях улучшения состояния здоровья населения и обеспечения реализации права человека на жизнь, включая смягчение вспышек заболеваний, а также укреплять и поддержи- вать международную солидарность в противодействии глобальным угрозам и факторам не- определенности, касающимся здоровья, обеспечивая при этом соответствие внедряемых в сфере здравоохранения систем на основе ИИ международному законодательству и своим правовым обязательствам в области прав человека. Государствам-членам следует обеспе- чить учет субъектами связанной с ИИ деятельности в сфере здравоохранения важности от- ношений пациента со своей семьей и с медицинским персоналом.
122. Государствам-членам следует регламентировать вопросы разработки и внедрения ИИ-систем, призванных помогать заботиться об общем и психическом здоровье населения, с особенным вниманием к детям и молодежи, с тем чтобы они были безопасными, эффектив- ными, рентабельными и обоснованными с медицинской точки зрения, а также способствовали основанным на данных инновациям и медицинскому прогрессу . Кроме того, в сфере, связан- ной с корректировкой здоровья на основе цифровых технологий, государствам-членам насто- ятельно рекомендуется активно вовлекать пациентов и их представителей во все соответ- ствующие этапы развития конкретной ИИ-системы.
123. Особое внимание государств-членов в вопросах регламентации применения методик на основе ИИ для прогнозирования, выявления и лечения заболеваний, должно быть направ- лено на то, чтобы:
(a) обеспечивать контроль, который позволит минимизировать и смягчить предвзя- тость ИИ-систем;
(b) обеспечивать участие конкретного врача, пациента, лица, осуществляющего уход, или пользователя услуги в работе группы, определяющей на всех соответствую- щих этапах алгоритмы ИИ, в качестве «экспертов в предметной области»;
(c) должным образом обеспечивать неприкосновенность личной информации в усло- виях потенциальной необходимости медицинского наблюдения, а также соблюде- ние всех соответствующих национальных и международных требований в области защиты данных;
(d) создавать эффективные механизмы для обеспечения осведомленности и инфор- мированного согласия лиц, чьи персональные данные анализируются, на исполь- зование и анализ этих данных, без блокировки доступа к лечению;
(e) обеспечивать, чтобы уход за больным и окончательное решение относительно ди- агностики и лечения оставались за людьми, но при этом учитывалась помощь, ко- торую ИИ-системы способны оказать этим людям;
(f) обеспечивать, где это необходимо, обзор ИИ-систем комитетом по этике научных исследований перед клиническим использованием этих систем.
124. Государствам-членам следует проводить исследования по вопросам последствий и при- нять меры правового реагирования в отношении потенциального вреда психическому здоро- вью, связанного с применением ИИ-систем, такого как развитие депрессии и высоких уровней тревожности, социальная изоляция, возникновение пагубных привычек, торговля запрещен- ными товарами, радикализация, распространение недостоверной информации и т.п.
125. Государствам-членам следует разработать на основе результатов исследований ори- ентированные на будущее развитие робототехники руководящие принципы по вопросам че- ловеко-машинного взаимодействия и его влияния на межчеловеческие отношения с особым вниманием к психическому и физическому здоровью человека. С особой осторожностью сле- дует относиться к использованию роботов в системе здравоохранения и ухода за пожилыми людьми и инвалидами, в сфере образования, а также роботов-игрушек, виртуальных собе- седников и роботов-компаньонов для детей и взрослых. Наряду с этим потенциал ИИ-тех- нологий следует задействовать для повышения безопасности и удобства использования ро- бототехники, в том числе в среде рабочего взаимодействия человека и робота. Особое вни- мание следует уделять возможности применения систем ИИ для манипулирования когнитив- ными искажениями в человеческой психике и их злонамеренного использования.
126. Государствам-членам следует обеспечить осуществление человеко-машинного взаимо- действия на основе тех же ценностных установок и принципов деятельности, которые приме- нимы к любым другим системам на основе ИИ, в том числе с точки зрения соблюдения прав человека, поощрения разнообразия и защиты уязвимых групп населения или лиц, оказав- шихся в уязвимом положении. В целях сохранения человеческого достоинства и автономии следует учитывать связанные с использованием ИИ-систем в области нейротехнологий и вза- имодействия мозга с компьютером этические аспекты.
127. Государствам-членам следует обеспечивать пользователям возможность быстро по- нять, взаимодействуют ли они с живым существом или с ИИ-системой, имитирующей качества человека или животного, а также возможность пользователей отказаться от взаимодействия с ИИ-системой и попросить о вмешательстве человека.
128. Государствам-членам следует осуществлять стратегии, направленные на повышение осведомленности населения о процессах антропоморфизации технологий искусственного ин- теллекта и о технологиях, узнающих и имитирующих человеческие эмоции, в том числе на языках, используемых при их упоминании, а также проводить исследования в отношении про- явлений, этических последствий и возможных ограничений подобной антропоморфизации, в частности в ситуациях, предусматривающих взаимодействие человека с роботом, в особен- ности в тех случаях, когда речь идет о детях.
129. Государствам-членам следует поощрять и поддерживать проведение совместных ис- следований, касающихся последствий длительного взаимодействия человека с ИИ-систе- мами, уделяя особое внимание психологическому и когнитивному воздействию, которое такие системы могут оказывать на детей и молодежь. Такая деятельность должна осуществляться с применением широкого разнообразия норм, принципов, рабочих стандартов и отраслевых подходов, а также на основе анализа изменения моделей поведения и привычек и тщатель- ной оценки косвенного воздействия, оказываемого ИИ на культуру и общество. Кроме того, государствам-членам следует поощрять изучение влияния ИИ-технологий на эффективность систем здравоохранения и результаты работы по охране здоровья.
130. Государствам-членам, а также всем заинтересованным сторонам следует создать ме- ханизмы для конструктивного вовлечения детей и молодежи в обсуждения и дискуссии по вопросам влияния ИИ-систем на их жизнь и будущее, а также в принятие связанных с этими вопросами решений.
V. МОНИТОРИНГ И ОЦЕНКА
131. Государствам-членам следует с учетом конкретных условий, структур управления и кон- ституционных положений проводить прозрачным и заслуживающим доверия образом мони- торинг и оценку политики, программ и механизмов, касающихся этических аспектов ИИ, ис- пользуя совмещение количественного и качественного подходов. В интересах поддержки гос- ударств-членов ЮНЕСКО может оказать содействие в следующих вопросах:
(a) разработка на основе углубленных научных исследований и международного права прав человека методологии ЮНЕСКО для оценки этического воздействия (ОЭВ) ИИ-технологий, включая руководство по ее применению на всех этапах жиз- ненного цикла конкретной ИИ-системы и учебные материалы для поддержки ра- боты государств-членов в области подготовки государственных служащих, лиц, от- ветственных за принятие решений и других соответствующих субъектов ИИ по при- менению методологии ОЭВ;
(b) разработка методологии ЮНЕСКО для оценки готовности, которая поможет госу- дарствам-членам в определении статуса своей готовности по целому ряду аспек- тов на конкретном этапе;
(c) разработка методологии ЮНЕСКО по оценке ожидаемой и фактической результа- тивности и эффективности стратегии этичного применения искусственного интел- лекта и соответствующих мер стимулирования с учетом поставленных задач;
(d) совершенствование научного и фактологического анализа и отчетности в отноше- нии правил и стандартов, касающихся этики применения ИИ;
(e) сбор и распространение отчетов о достигнутых результатах, инновациях и научно- исследовательской работе, а также научных публикаций, данных и статистики, ка- сающихся реализации стратегий этически корректного применения ИИ, в том числе в рамках сегодняшних инициатив, в поддержку распространения передового опыта и взаимного обмена знаниями, а также содействия выполнению настоящей Рекомендации.
132. Процедуры мониторинга и оценки должны обеспечивать широкое участие всех заинте- ресованных сторон, в том числе уязвимых групп населения или лиц, оказавшихся в уязвимом положении. Обеспечение социально-культурного и гендерного разнообразия призвано спо- собствовать повышению эффективности процесса овладения знаниями и укреплению взаи- мосвязи между результатами исследований, принимаемыми решениями, прозрачностью под- хода и ответственностью за достижение результатов.
133. В интересах популяризации наиболее перспективных принципов деятельности и подхо- дов в области этичного применения ИИ и оценки их действенности и эффективности на ос- нове сопоставления с согласованными стандартами, приоритетами и целевыми показате- лями, включая отдельные целевые показатели для находящихся в неблагоприятном положе- нии, социально отчужденных и уязвимых групп населения, или лиц, оказавшихся в уязвимом положении, а также для оценки воздействия ИИ-систем на индивидуальном уровне и на уровне общества, необходимо разработать соответствующие инструменты и показатели. Мо- ниторинг и оценка воздействия ИИ-систем и соответствующих стратегий и подходов, касаю- щихся этичного применения ИИ, должны осуществляться на постоянной и системной основе
пропорционально соответствующим рискам. Эта работа должна проводиться на основе со- гласованных на международном уровне рамочных принципов и предусматривать проведение оценки деятельности как частных, так и государственных учреждений, поставщиков услуг и программ, включая проведение самооценки, а также проведение поисковых исследований и разработку наборов показателей. Сбор и обработка данных должны осуществляться в соот- ветствии с международным правом, национальным законодательством о защите информации от несанкционированного доступа и о защите персональных данных, а также ценностными установками и принципами, изложенными в настоящей Рекомендации.
134. В частности, государствам-членам предлагается рассмотреть возможные механизмы мониторинга и оценки, такие как комиссия по этике, мониторинговая платформа по этическим аспектам ИИ, хранилище материалов по разработке ИИ-систем в соответствии с правозащит- ными и этическими принципами, или поддержка существующих инициатив путем обеспечения соблюдения этических принципов во всех областях компетенции ЮНЕСКО, механизм обмена опытом, контролируемая среда, руководство для субъектов связанной с ИИ деятельности по вопросам оценки соблюдения стратегических рекомендаций, сформулированных в настоя- щем документе.
VI. ИСПОЛЬЗОВАНИЕ И ПРИМЕНЕНИЕ ПОЛОЖЕНИЙ НАСТОЯЩЕЙ РЕКОМЕНДАЦИИ
135. Государствам-членам и всем упомянутым в настоящей Рекомендации заинтересован- ным сторонам следует соблюдать, продвигать и отстаивать этические ценности, принципы и стандарты в отношении ИИ, сформулированные в Рекомендации, а также принимать все воз- можные меры для практического выполнения изложенных в ней стратегических рекоменда- ций.
136. Государствам-членам следует стремиться расширять и дополнять собственные меры в отношении настоящей Рекомендации путем сотрудничества со всеми соответствующими национальными и международными правительственными и неправительственными органи- зациями, а также транснациональными корпорациями и научными организациями, чья дея- тельность подпадает под действие положений и соответствует целям настоящей Рекоменда- ции. Важными инструментами в этом отношении могли бы стать методология ЮНЕСКО для оценки этического воздействия, а также создание национальных комиссий по этике техноло- гий.
VII. СОДЕЙСТВИЕ ОСУЩЕСТВЛЕНИЮ НАСТОЯЩЕЙ РЕКОМЕНДАЦИИ
137. ЮНЕСКО призвана стать главным учреждением Организации Объединенных Наций в вопросах популяризации и распространения настоящей Рекомендации и в связи с этим будет действовать в сотрудничестве с другими структурами системы Организации Объединенных Наций, уважая их мандат и избегая дублирования усилий.
138. ЮНЕСКО, а также ее органы, такие как Всемирная комиссия по этике научных знаний и технологий (КОМЕСТ), Международный комитет по биоэтике (МКБ) и Межправительственный комитет по биоэтике (МПКБ),будут работать в сотрудничестве с другими международными, региональными и субрегиональными правительственными и неправительственнмыи органи- зациями.
139. Несмотря на то, что вопросы поощрения и защиты в рамках мандата ЮНЕСКО отно- сятся к компетенции правительств и межправительственных органов, гражданское общество призвано сыграть важную роль в отстаивании интересов общественного сектора, в связи с чем ЮНЕСКО необходимо будет обеспечить и поддержать его законное право.
VIII. ЗАКЛЮЧИТЕЛЬНЫЕ ПОЛОЖЕНИЯ
140. Настоящую Рекомендацию необходимо воспринимать как единое целое, а сформулиро- ванные в ней базовые ценностные установки и принципы деятельности – как взаимодополня- ющие и взаимосвязанные.
141. Ничто в настоящей Рекомендации не может быть истолковано как замена, изменение или иное негативное следствие для обязательств или прав государств-членов в соответствии с международным правом и как дающее тому или иному государству, другому социальному субъекту, группе или отдельному лицу какие-либо основания заниматься любой деятельно- стью или совершать любые действия в нарушение прав человека, основных свобод, челове- ческого достоинства и принципа уважительного отношения к окружающей среде и живым и неживым экосистемам.