И нужна ли :)
В прошлом году в России был принят первый кодекс этики ИИ. Незадолго до этого Китай опубликован первый набор этических принципов для регулирования ИИ.
Нам в Датане, как в компании непосредственно работающей с ИИ, стало интересно и мы решили разобраться, что это и зачем это.
Что это?
Кодекс этики в сфере искусственного интеллекта устанавливает общие этические принципы и стандарты поведения, которыми следует руководствоваться.
Вы знаете, что на сегодняшний день насчитывается около 90 документов в области этики ИИ*.
*Anna Jobin, Marcello Ienca, and Effy Vayena, ‘Artificial Intelligence: the global landscape of ethics guidelines’, 2019
Согласно этим документам есть ряд аспектов, которые вызывают озабоченность:
- прозрачность
- справедливость и беспристрастность
- не причинение вреда
- ответственность
- конфиденциальность
- благополучие
- свобода и автономия
- доверие
- достоинство
- устойчивость
- солидарность
Зачем это нужно?
Этические отношения и нормы играют важную роль в тех случаях, когда нормативные требования еще не сформулированы и не закреплены законодательно. Попросту говоря, это когда технологии развиваются так стремительно, что правовые и технические нормы не поспевают за ними.
Давайте, для примера, сравним китайское и российское видение этики ИИ.
Китайцы выделили 6 основных принципов:
- Обеспечение управляемости и надежности
- ИИ находится под контролем
- Улучшение благосостояния людей
- Обеспечение справедливости
- Защита частной жизни и безопасности
- Повышение этической грамотности
Наши же акцентировали внимание на таких аспектах, как:
- Защита интересов и прав людей
- Ответственность при создании и использовании ИИ
- Ответственность за последствия применения всегда несет человек
- Применение по назначению и внедрение там, где это принесёт пользу людям
- Интересы развития технологий ИИ выше интересов конкуренции
- Прозрачность и правдивость в информировании об уровне развития технологий ИИ, их возможностях и рисках
Давайте пройдёмся по всему кодексу.
1. Главный приоритет развития технологий ИИ в защите интересов и прав людей и отдельного человека.
1.1. Человеко-ориентированный и гуманистический подход.
Сие значит, что на первое место встаёт свобода и права человека. Технологии развиваем, но самобытность и культуру оставляем в приоритете. Так чтобы духовные и нравственные ценности не пострадали
1.2. Уважение автономии и свободы воли человека.
Тут речь о том, что решать в итоге должен человек, за ним последнее слово.
1.3. Соответствие закону.
Здесь всё просто и понятно.
1.4. Недискриминация.
Никакой дискриминации по половым, возрастным, расовым, политическим и другим признакам быть не должно.
1.5. Оценка рисков и гуманитарного воздействия.
Помимо того, что надо прикинуть все долгосрочные риски как для человека, так и для государства, так надо еще долго и упорно мониторить, чтобы такие риски со временем не появились. А ещё можно привлекать третью сторону для оценки.
2. Необходимо осознавать ответственность при создании и использовании ИИ.
2.1. Риск-ориентированный подход.
Не увидели принципиальной разницы между пунктом выше, поэтому процитируем документ.
«Принятие значимых для общества и государства решений в области применения ИИ должно сопровождаться научно выверенным, междисциплинарным прогнозированием социально экономических последствий и рисков, изучением возможных изменений в ценностно-культурной парадигме развития общества с учетом национальных приоритетов».
2.2. Ответственное отношение.
Нужно ответственно относиться к вопросам влияния ИИ на общество. Это про неприкосновенность частной жизни, этичное, безопасное и ответственное использование персональных данных, чтобы не пришлось потом над размером ущерба, который может последовать в результате использования технологий.
2.3. Предосторожность.
И снова про риски. Здесь упор делается на «моральной неприемлемости последствий». В общем десять раз надо подумать про последствия.
Как говориться, семь раз отмерь…
2.4. Непричинение вреда.
Не должно допускаться использование технологий ИИ в целях причинения вреда, жизни и здоровью человека, а также имуществу граждан и юридических лиц, окружающей среде.
2.5. Идентификация ИИ в общении с человеком.
Надо сообщить человеку, что он взаимодействует с ИИ. А то ведь иногда общаешься с ботами и не знаешь этого. И ещё надо дать возможность прекратить это взаимодействие.
2.6. Безопасность работы с данными.
Надо не просто соблюдать законодательство РФ в области персональных данных, но и использовать инновационные методы борьбы с несанкционированным доступом к ним.
2.7. Информационная безопасность.
По максимуму обеспечить защиту от вмешательства в работу систем на базе ИИ.
2.8. Добровольная сертификация и соответствие положениям Кодекса.
Можно создавать и внедрять системы добровольной сертификации согласно нормам закона РФ и этим кодексом.
2.9. Контроль рекурсивного самосовершенствования систем ИИ.
Вопрос применения технологий «сильного» ИИ должен находиться под контролем государства.
3. Ответственность за последствия применения сии всегда несет человек.
3.1. Поднадзорность.
Человек бдит за каждый важным этапом и имеет возможность отменить принятие социально и юридически значимых решений на любом этапе.
3.2. Ответственность.
За все последствия ВСЕГДА отвечает человек.
4. Технологии ИИ нужно применять по назначению и внедрять там, где это принесёт пользу людям.
4.1. Применение систем ИИ в соответствии с предназначением.
Вот не заявили вы какое-то предназначение и область, где можно использовать вашу систему, будьте любезны работать строго по списку.
4.2. Стимулирование развития ИИ.
А вот тут интересно. Поощрять и стимулировать разработку технологий ИИ надо с учетом национальных приоритетов.
5. Интересы развития технологий ИИ выше интересов конкуренции.
5.1. Корректность сравнений СИИ
Единая методика измерений возможностей систем ИИ. Добросовестная конкуренция и эффективное сотрудничество.
5.2. Развитие компетенций.
Надо развивать и поддерживать должный уровень профессиональной компетенции, необходимый для безопасной и эффективной работы с системами ИИ.
5.3. Сотрудничество разработчиков.
Речь, прежде всего, об информировании о выявленных критических уязвимостях, чтобы они не получили массового распространения. А также нужно повышать качество и доступность ресурсов в сфере разработки. Здесь и совместные разработки, и создание национальной школы развития технологий, организация всевозможных мероприятий, привлечение инвестиций и тд.
6. Важна максимальная прозрачность и правдивость в информировании об уровне развития технологий ИИ, их возможностях и рисках.
6.1. Достоверность информации.
Пользователям надо сообщать о пользе, вреде и ограничениях в применении.
6.2. Повышение осведомлённости об этике применения ИИ.
Чтобы меньше было волнений на тему того, что роботы оставят всех без работы, надо вести просветительскую деятельность.
А что вы думаете по поводу этических норм в области разработки искусственного интеллекта?
#искусственный интеллект