Безопасное использование искусственного интеллекта в финансовой сфере

Безопасное использование искусственного интеллекта в финансовой сфере.

🏦 Банк России опубликовал методические рекомендации по безопасному использованию искусственного интеллекта в финансовой сфере. В разработке документа принимали участие эксперты Ассоциации ФинТех. Документ помогает финансовым организациям выстроить комплексный подход к информационной безопасности при внедрении ИИ: в нём систематизированы ключевые риски, описаны возможные тактики атак на модели и предложены меры защиты.

Рекомендации подчеркивают необходимость системной работы с рисками на всех этапах жизненного цикла ИИ – от разработки и тестирования до эксплуатации и взаимодействия с внешними сервисами. Особое внимание уделено вопросам прозрачности, контролируемости и защищённости моделей, а также требованиям к поставщикам ИИ-решений и порядку их оценки.

Документ также акцентирует важность разработки внутренних политик и моделей угроз, которые должны учитывать специфику деятельности организации и уровень критичности процессов, в которых применяется ИИ. Ответственность за подготовку таких документов возлагается на заместителя руководителя организации по вопросам защиты информации.