К перечню наиболее актуальных внутренних рисков в ходе интеграции в процессы искусственного интеллекта российские банковские учреждения относят риски в сфере кибербезопасности, среди которых особенно выделяется утечка информации, хакерские атаки и цифровое мошенничество. Соответствующие слова приведены в новом отчёте о результатах обсуждения доклада ЦБ РФ по использованию технологии искусственного интеллекта, сообщает агентство ТАСС.
В сообщении Банка России по этому поводу говорится о том, что к наиболее актуальным внутренним рискам для российских банковских учреждений опрошенные специалисты различных профильных организаций относят риски в сфере оборота данных и кибербезопасности, а также риски создания и искажения работы моделей искусственного интеллекта, например, галлюцинации ИИ, отсутствие необходимого контроля при разработке моделей, ошибки в ходе тестирования и валидации, неправильная интерпретация полученных результатов. Также опрошенные специалисты указывают на наличие этических рисков и рисков нарушений прав потребителей.
Представители российского финансового рынка в ходе проведения исследования также заявили о наличии рисков, которые связаны с использованием генеративного искусственного интеллекта, в том числе рисков применения дипфейков в различных мошеннических схемах, к примеру, с использованием методик социальной инженерии или для манипулирования информацией.
В Банке России при этом подчёркивают, что финансовый регулятор сейчас заинтересован в том, чтобы максимально содействовать развитию в России технологии искусственного интеллекта, при этом ведомство придерживается исключительно риск-ориентированного подхода при использовании современных технологий ИИ.
В ЦБ РФ также отмечают, что на данный момент нет необходимости оперативно регулировать применение технологии искусственного интеллекта в финансовых организациях. Поэтому финансовый регулятор предлагает начать открытый диалог с участниками рынка и государственными структурами по вопросам, которые связаны с нейросетями.
Оригинал публикации на сайте CISOCLUB: "В Банке России убеждены, что риски при использовании ИИ связаны с кибербезопасностью".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Twitter | Rutube | Telegram | Дзен | YouTube.