В рамках первого международного форума «Этика искусственного интеллекта: начало доверия», который стартовал 26 октября 2021 года в Москве, подписан кодекс этики ИИ
«Обществу нужен надёжный ИИ с вероятностью ошибки ниже, чем у человека. Права и свободы граждан гарантированы Конституцией. Наша обязанность – реализовать механизмы по их защите, независимо от среды, в которой находится человек. Соблюдение этических норм при работе с ИИ позволит предотвратить их нарушение. Поэтому Правительство приветствует подписание профессиональным сообществом кодекса этики ИИ, он позволит повысить уровень доверия граждан к новым технологиям. Опираясь на лучшие практики, Россия входит в десятку стран, для которых этичность развития важнейшей технологии XXI века имеет государственное значение», – отметил Дмитрий Чернышенко, начальник Управления Президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи.
В рамках пленарной сессии состоялась дискуссия в которой приняли участие вице-премьер РФ Дмитрий Чернышенко, начальник управления президента РФ по развитию информационно-коммуникационных технологий и инфраструктуры связи Татьяна Матвеева, генеральный директор «Яндекс» в России Елена Бунина, президент МТС Вячеслав Николаев, основатель кинокомпании Art Pictures Studio Фёдор Бондарчук, первый заместитель председателя правления Сбербанка Александр Ведяхин, а также президент группы компаний InfoWatch, председатель правления АРПП «Отечественный софт», Наталья Касперская. Модератор дискуссии: Сергей Брилев, заместитель генерального директора по специальным информационным проектам телеканала «Россия».
О рисках в кодексе этики
Документ поделен на два раздела, куда входят такие темы, как стимулирование развития ИИ, повышение осведомленности об этике применения ИИ, идентификация ИИ в общении с человеком, а также информационная безопасность.
И если о достоинствах новых технологий говорили практически все спикеры дискуссии, то проблематика рисков ИИ и безопасности, затронутая главным образом Натальей Касперской, требует первоочередного рассмотрения.
«Я участвовала в разработке кодекса этики ИИ с позиций эксперта по управлению рисками. Любая технология, а ИИ не исключение из этого правила, несёт определенные риски в широком спектре: начиная от информационной безопасности, заканчивая социальными проблемами. Ключевым риском в данном случае является вопрос доверия к ИИ. Кодекс призван для того, чтобы закрепить в том числе и то, что системы, которые создаются и будут создаваться, этому доверию соответствовали», – отметила Наталья Касперская.
Что подразумевается под доверием, и почему возникают такие большие проблемы по отношению к нему?
Во-первых, это ошибки ИИ. Последний пример: сотрудники правоохранительных органов задержали в Петербурге оперного певца и практически одновременно в Одинцове режиссёра Фёдора Ермошина. Оба были доставлены в соответствующие отделения полиции, невзирая на сопротивление и попытки предъявить паспорт одним из них. И только там выяснилось, что они не являются разыскиваемыми преступниками. Правоохранители полностью доверились в этом случае ИИ, допустившему ошибку, а не своим собственным глазам и не документам, имевшимся на руках у подозреваемого. Ошибки ИИ, без сомнения, можно и нужно минимизировать, но тем не менее, они всё равно будут.
Во-вторых, в состав рисков, присущих ИИ, входит возможность манипулирования человеком и вмешательства в его частную жизнь, потому что все системы ИИ строятся на основе огромного массива данных. А вот доступ к этим данным могут различными путями получить не только разработчики конкретной системы. А это значит, что эти люди могут настраивать систему определённым образом, в своих целях.
Во-третьих, возможны риски принятия неправильных решений. В ходе дискуссии Александру Ведяхину был задан вопрос по поводу того, что банки зачастую отказывают человеку в кредите без объяснения причин. Это тоже этическая проблема, так как у человека должно быть право опротестовать это решение. Финальное решение выдавать или не выдавать кредит должно остаться именно за человеком, а не за машиной.
В-четвёртых, постоянное использование систем ИИ приводит к эффекту массового оглупления или к снижению интеллектуальных способностей пользователей. Наталья Касперская привела простые примеры: «Использование калькулятора привело к тому, что люди сейчас разучились считать в уме, а водители такси в Москве не в стоянии возить пассажиров без навигатора. Сбой в работе Facebook на 7 часов уже случился, причём совсем недавно. Что будет в Москве, если сервисы онлайн-карт не будут доступны примерно такое же время? Если так пойдёт дальше, то и медики отучатся ставить диагнозы без помощи ИИ по причине потери квалификации».
В-пятых, риски ИИ применительно критической информационной инфраструктуре (КИИ) имеют особую важность. И если применительно к врачам и их диагнозам приведенный в пример риск может сработать в будущем, то прямо здесь и сейчас, в руководящих документах для пилотов пассажирских самолетов есть указание о том, что никогда нельзя выключать автопилот.
«При этом все мы помним трагическую аварию с самолетом Сухой Superjet в Шереметьево в которой погибло 40 человек. В лайнер попала молния, у него полностью отказала автоматика. В результате в ясную погоду в районе аэропорта пилот не смог посадить самолет. Доказано, что причиной катастрофы стала ошибка пилота. А что вы от него хотели? Он без автопилота уже не мог посадить самолет. И это было три года назад. А еще через три года у нас вообще не останется пилотов, умеющих это делать», – поделилась своими опасениями Наталья Касперская.
Что предлагает кодекс?
Все перечисленные проблемы человечеству предстоит каким-то образом решить. Дело в том, что технологии усложняются, а навыки людей снижаются. Это обратно-пропорциональная зависимость, которую можно отобразить на графике в виде двух кривых.
«На мой взгляд, данные кривые уже пересеклись. Этот неприятный факт приводит к тому, что большинство людей уже не понимают, как функционируют ИИ-системы и что там внутри. Как можно доверять такой системе? Поэтому в кодекс заложена одна очень важная вещь: любая система ИИ, прежде чем будет разработана, должна получить модель угроз, присущих именно ей. Сам кодекс по сути и является общей моделью угроз, в котором часть из них попытались оценить и предотвратить. В частности, есть запрет на финальность решения ИИ. Ответственность за решения ИИ должна оставаться за человеком», – рассказала о подробностях документа президент группы компаний InfoWatch.
Кроме того, в кодекс заложены обязательность уведомления человека о том, что в данный момент с ним общается система ИИ. Есть положения об отсутствии дискриминации, непричинения вреда, безопасности и конфиденциальности. Всё это и многое другое в том или ином виде использовалось бизнесом ранее, а теперь сведено воедино.
В частности, Александр Ведяхин, говоря о принципах этики ИИ внутри «Сбера», рассказал: «Всего этих принципов у нас в банке пять: контролируемость и управляемость систем ИИ, прозрачность и предсказуемость функционирования технологий, стабильность и надёжность систем, ответственное применение и непредвзятость».
Наталья Касперская, говоря о работе над кодексом, отметила: «Самое важное то, что кодекс не является эдаким “застывшим образованием”. С развитием технологий он должен развиваться. Работа над ним была очень сложной и при этом интересной. Было множество мнений и их удалось свести к финальному документу.
Кроме того, кодекс – прекрасный пример способности сообщества к саморегулированию. Нуждается ли направление ИИ в дополнительном законодательном регулировании? Мне кажется, эти истории должны идти параллельно. Кодекс – это инструмент мягкой силы или влияния на недобросовестных разработчиков. Законодательно со временем, что-то будет закреплено. Но мы все понимаем, как сильно отстает законодатель от реалий современного цифрового мира. Поэтому на данном этапе необходимо дать человеку право самому принимать решения без давления несовершенного регулирования».
В подписании кодекса в сфере ИИ приняли участие представители крупнейших российских компаний, вузов и научно-исследовательских институтов. В частности, ГК InfoWatch, МФТИ, «Сбер», Яндекс, МТС, Ростелеком, РФПИ, Газпром нефть и другие.
«Сегодня организации-лидеры поставили свои подписи под кодексом. Ожидаем, что до конца года его подпишут более 100 организаций из государственного, коммерческого и научного секторов. Правительство приложит все необходимые организационные усилия, чтобы этические принципы ИИ нашли практическую реализацию в разных сферах: в госуправлении, здравоохранении, на транспорте, где благополучие людей в приоритете», – сказал Дмитрий Чернышенко.