Международные финансовые регуляторы предупредили о рисках быстрого распространения агентного искусственного интеллекта. Автономные системы, которые могут самостоятельно планировать действия, принимать решения и выполнять сложные задачи, создают новые угрозы для банков, финансовых компаний и устойчивости рынков.
В отчете Совет по финансовой стабильности призвал руководителей финансовых организаций заранее внедрять механизмы контроля и защиты от рисков, связанных с использованием ИИ.
Особое внимание в отчете уделено ИИ-агентам — системам, которые способны планировать действия, рассуждать и выполнять задачи с минимальным участием человека. В финансовом секторе такие технологии уже используют для выявления мошенничества, обслуживания клиентов и автоматизации внутренних процессов.
Согласно опросу Кембриджского центра альтернативного финансирования, 52% представителей финансового сектора уже активно внедряют агентный ИИ. Из них 23% масштабируют такие системы или перестраивают с их помощью процессы, а еще 29% находятся на стадии пилотных проектов.
Читайте также
США могут получить доли в компаниях, развивающих искусственный интеллект
Предупреждения регуляторов усилились после выхода более автономных ИИ-систем, включая Anthropic Mythos. Эксперты рассматривают такие модели как новый фактор киберриска для банков, поскольку они могут выполнять сложные задачи с меньшим участием человека.
В Совете заявили, что автономный ИИ может создавать угрозы, которые реализуются с высокой скоростью. Среди потенциальных проблем названы несанкционированные или незаконные действия, утечки конфиденциальных данных и сбои в связанных цифровых системах.
Регуляторы предупреждают, что такие системы могут принимать решения и совершать действия, которые расходятся с намерениями компаний. Главный риск в том, что сотрудники могут не заметить проблему вовремя или не успеть вмешаться.
Для снижения рисков Совет предложил рекомендации, которые пока не являются обязательными. Финансовым организациям советуют заранее определить, где можно использовать ИИ, какие действия автономным системам запрещены и какие защитные механизмы должны срабатывать при отклонениях.
Среди предложенных мер — обязательное участие человека в операциях повышенного риска, включая финансовые транзакции выше установленных порогов.
Помимо этого, Совет предлагает компаниям адаптировать процессы управления персоналом под работу с агентным ИИ. Такие системы можно рассматривать как «синтетических сотрудников», которым нужны отдельные правила контроля, оценки и надзора.
Подпишитесь на «Инк» в Telegram. Там мы пишем нескучным языком о самом важном для предпринимателей. Подписаться.