Регулирование сферы искусственного интеллекта (ИИ) в России начало принимать первые конкретные формы. 26 октября Альянс в сфере ИИ и ряд представителей крупного бизнеса подписали первый отраслевой этический кодекс.
Множество аспектов разработки и эксплуатации ИИ-решений не регулируются действующим законодательством. Это не только российская проблема: задача урегулирования правового вакуума является общемировой.
Подписанный участниками рынка документ призван сформировать общее понимание допустимых границ, принципов и стандартов при разработке ИИ-решений. Выглядит все очень серьезно: в авторах – Альянс в сфере ИИ, а также Аналитический центр при правительстве РФ и Минэкономразвития. Документ уже подписан представителями Сбербанка, «Газпром нефти», «Яндекса», VK, МТС, РФПИ (входят в альянс), а также «Сколково», «Ростелекома», «Росатома», InfoWatch и ЦИАН.
При бесконечных витках развития технологий работу над ИИ-кодексом необходимо было начать, но закончить ее будет невозможно. Развитию применимости средств ИИ сегодня не видно предела. Расширение сфер применения и рост сопутствующих технологий будут постоянными.
По мере развития использования ИИ-инструментов становится все труднее распределять ответственность за принятые алгоритмами решения. Все сложнее выявлять и объяснять механизмы выбора искусственным интеллектом тех или иных действий в конкретной ситуации.
Встают вопросы о предвзятости и навязанных человеком стереотипах мышления и восприятия. Сбор данных для обучения ИИ-алгоритмов – почти всегда вторжение в чью-то частную жизнь. Например, алгоритмы распознавания лиц совершают ошибки, обусловленные в том числе расовыми предрассудками и предвзятым мнением.
Задачи любого кодекса по этике в области ИИ должны определять границы ответственности – кто отвечает за алгоритм: разработчик, компания, использовавшая open-source для разработки приложения, производитель оборудования или пользователь приложения. Такой документ должен определять прозрачность алгоритмов: процесс принятия решения, подотчетность ИИ человеку и устранение системной предвзятости.
Диалог об этике в ИИ должен включать в себя широкий круг организаций и лиц для построения открытой дискуссии, сбора информации, определения возможных рисков и путей преодоления.
Объединение большого числа компаний для обсуждения кодекса углубит проработку решений, позволит включить «инклюзивность», избежать белых пятен, преодолеть возможные несовершенства разрабатываемых решений, влияющих на развитие социума.
Вопрос проработки ценностей и этичности новой культуры ИИ требует привлечения не только опытных специалистов по разработке ИИ-алгоритмов, представителей бизнеса и госорганов, но и экспертов из научного сообщества (психологов, нейробиологов), социологов, философов, военных. Это далеко не полный перечень носителей компетенций, необходимых для выработки адекватных этических ИИ-стандартов по меркам каждой страны, культуры, религии, расы и в целом человечества.
Важно помнить, что ИИ – это рожденная человеком сущность, и в зародыше решения ИИ не имеют собственных ценностей или аналога врожденного «здравого смысла». С ИИ нужно обращаться как с равным, уделять воспитанию ИИ-алгоритмов не меньше времени и внимания, чем воспитанию ребенка. Ошибки в воспитании ребенка обходятся дорого: упустить человека так, чтобы он оказался «потерян для общества», – легко. Проморгать критически важные моменты в «воспитании» ИИ при несовершенстве текущих подходов и пока разрабатываемых норм – еще легче.
Создание кодека этики ИИ очень важная и нужная инициатива, которая позволит системно подойти к анализу возникающих ошибок в алгоритмах, избежать губительных последствий.
Для каждого воспитуемого нужны: и родитель, создавший алгоритм; и тренер, дополняющий логику и автоматизацию действий в разных ситуациях, проверяющий независимость алгоритмов от предрассудков; и специалист, который сможет объяснить логику принятых решений; и коуч, способный заниматься непрерывным усовершенствованием механизма ИИ.
Но комплексная формализация свода законов, обновляемого и пополняемого по мере изменения социума, должна стать основой этичной человечности технологий ИИ.
Мария Григорьева, управляющий директор Accenture Technology в России
Мнение автора может не совпадать с точкой зрения редакции
Подписывайтесь на канал «Ведомости»