Банк России разработал «Кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке». Документ носит рекомендательный характер и уже отправлен в финансовые учреждения РФ.
Кодекс создан, чтобы повысить доверие людей и компаний к новой технологии, отмечается в тексте, а также минимизировать риски использования и развития ИИ в отрасли.
Финансовым организациям регулятор рекомендует соблюдать пять основных принципов:
Человекоцентричность
По мнению ЦБ, у клиента должна быть возможность отказаться от взаимодействия с применением ИИ и обратиться к сотрудникам организации. А также право пересмотреть решение, принятое с использованием технологии.
Кроме того, компании должны повышать осведомленность клиентов о принятии решений с помощью искусственного интеллекта. А при разработке таких продуктов или услуг регулятор рекомендует финучреждениям учитывать факторы уязвимости клиентов —возраст, образование, ограниченные возможности.
Справедливость
При разработке ИИ-решений Банк России считает обоснованным использовать персональные данные клиентов только в случаях, когда они необходимы для существенного повышения эффективности таких продуктов и услуг.
При этом, отмечается в тексте, недопустимо использование дискриминационных факторов. Поэтому при принятии решений с использованием ИИ регулятор рекомендует не учитывать данные о национальной, языковой, расовой, политической принадлежности, вероисповедании и отношении к религии. Кроме того, при разработке ИИ необходимо проверять полноту, актуальность и достоверность данных о социальных группах, которым финучреждение вправе оказывать услуги.
Прозрачность
Согласно Кодексу ЦБ, компаниям рекомендуется сообщать клиентам о применении ИИ при оказании услуг, если это неочевидно из обстоятельств. При этом человек вправе получить полные и достоверные сведения о технологии, в том числе об условиях применения и рисках.
Информация, созданная с использованием больших генеративных моделей, подлежит маркировке, считают в ЦБ. Исключением могут стать случаи, когда такие модели применяются для редактирования сведений, но не вносят существенных изменений в содержание, а также если использование ИИ очевидно из обстоятельств или отсутствует риск причинения вреда клиентам.
Безопасность, надежность и эффективность
Центробанк рекомендует организациям проверять используемые наборы данных на достоверность, точность и полноту, исправлять в них неточности и актуализировать. А также собирать и хранить информацию об источниках датасетов.
Финучреждениям следует проверять качество ИИ, установив соответствующие показатели. Важно также разработать систему мер для обеспечения безопасности данных ограниченного доступа. В частности, их обезличивание и противодействие несанкционированному распространению при использовании ИИ сотрудниками организации и ее клиентами.
Кроме того, ЦБ рекомендует проработать непрерывность деятельности: если функции на основе ИИ временно не могут быть предоставлены, их могут выполнять сотрудники компании.
Ответственное управление рисками
Участникам финансового рынка при использовании ИИ рекомендуется вести учет применяемых моделей искусственного интеллекта, выявлять и оценивать уровень их риска для минимизации последствий. Кроме того, отмечается в документе, необходимо реагировать на реализовавшиеся риск-события и вести их базу.
Также компаниям необходимо обеспечить своим сотрудникам и клиентам возможность направления жалоб и сообщений о риск-событиях.
Больше полезной информации для инвесторов вы найдете на BCS Express.