Приняла участие в 22-м Международном банковском форуме, который прошел 24-27 сентября в Сочи. На форуме, в числе прочего, обсуждалась цифровая трансформация отрасли. Банковская сфера является одной из самых высокотехнологичных отраслей, а расплата за передовые технологии — растущие риски и новые уязвимости, с которыми никто ранее не сталкивался.
25 сентября я выступила модератором круглого стола «Высокие технологии — потенциал и риски». Среди участников — замдиректора Института искусственного интеллекта МГУ имени М.В. Ломоносова Андрей Грунин, директор по работе с финансовым сектором Yandex Cloud Александр Долбнев, и.о. замгенерального директора, директор операционно-технологического департамента АО «НСПК» Максим Крукелис, член правления, технический директор НКО «Мобильная карта» Александр Фон Розен, а также директор по стратегическому развитию АНО «Цифровая экономика» Лариса Митринская.
На круглом столе обсудили риски использования ИИ и проблему «черного ящика», затронули вопросы регуляторики, связанные с ИИ. И немного зацепили киберстрахование.
Из интересного могу отметить следующие тезисы:
· ИИ в банковском секторе внедряется практически безальтернативно, он никуда не исчезнет, как бы мы к нему не относились. Это технологическая гонка, которую никто не хочет проиграть. Сейчас наибольший упор делается на генеративные модели и помимо обычных рисков информационной безопасности, в банковской сфере есть специфические риски. Например, нельзя чтобы чат-бот банка на вопрос подобрать выгодный вклад начинал советовать услуги иного банка.
· Скорость внедрения ИИ-технологий очень высока. Все те технологии, которые обсуждаются сейчас, появились за последние несколько лет. Перспектива ближайших 3-4 лет — расширение полномочий ИИ-моделей, автономная сущность, их подключение к новым данным, а также протокол Agent2Agent — когда две модели общаются и решают что-то между собой. Это совсем иная степень рисков и ответственности, которую нужно строго очертить.
· Безопасной модели взаимодействия с ИИ нет. Проблему «черного ящика» все понимают. Цена ошибки очень высока. Есть опасения на счет степени доверия к технологической базе — использование локализованных моделей ИИ и аппаратных платформ иностранного производства.
· В вопросе регулирования развития ИИ требуется разделить две сферы — разработку и применение. Если будем регулировать само создание, то отстанем в глобальной технологической гонке. С другой стороны, применение ИИ требует регулирования, а для этого важно вести дискуссию и взаимодействие разработчиков, заказчиков и специалистов по безопасности.
· Важно понимать, почему ИИ принимает те или иные решения. Нельзя очеловечивать ИИ и создавать для него высокий уровень доверия.
· Рынок киберстрахования развивается с 2017 года, но сегодня механизмы киберстрахования и оценки рисков требуют пересмотра. Компании не раскрывают в полной мере данные по киберинцидентам, как следствие — затрудняется анализ и выработка новых механизмов страхования, снижается точность.