Британские учёные выяснили, что создаваемые искусственным интеллектом и распространяемые в социальных сетях фейковые новости повышают риск массового изъятия вкладов из банков. Кредиторам следует улучшить мониторинг, чтобы выявлять риски дезинформации, которые влияют на поведение клиентов. Об этом говорится в исследовании, опубликованном британской компанией Say No to Disinfo и коммуникационной фирмой Fenimore Harper.
Генеративный ИИ можно использовать для создания фейковых новостей, что деньги клиентов не защищены, или мемов с шутками о проблемах безопасности, которые можно распространять в социальных сетях с помощью платной рекламы.
Банки и регулирующие органы всё больше обеспокоены рисками банкротства кредитных учреждений, вызванными социальными сетями, после краха банка в Кремниевой долине в 2023 году, когда вкладчики сняли 42 миллиарда долларов за 24 часа. Достижения в области искусственного интеллекта усилили подобные риски.
Совет по финансовой стабильности G20 предупредил в ноябре, что генеративный ИИ "может позволить злоумышленникам генерировать и распространять дезинформацию, которая вызывает острые кризисы", в том числе внезапные сбои в работе банков.
Проще и быстрее
Компания Say No to Disinfo продемонстрировала клиентам британских банков образцы контента, созданного с помощью искусственного интеллекта. Обнаружилось, что треть участников исследования "с большей степенью вероятности" переведёт свои деньги после его просмотра, а 27% - "с некоторой вероятностью".
"Поскольку искусственный интеллект делает кампании по дезинформации проще, дешевле, быстрее и эффективнее, чем когда-либо прежде, возникающие риски для финансового сектора быстро растут, но они часто упускаются из виду", - отмечено в отчёте.
При этом акцентируется внимание, что онлайн- и мобильный банкинг позволяют людям переводить деньги за считаные секунды.
Исследователи подсчитали, что на каждые 10 фунтов стерлингов (12,48 доллара), потраченные на рекламу в социальных сетях для распространения поддельного контента, может быть переведено до миллиона фунтов стерлингов депозитов клиентов. В расчётах учитывались среднее количество депозитов клиентов из Великобритании, стоимость рекламы в социальных сетях и оценки того, сколько людей её увидит.
По словам учёных, банкам необходимо отслеживать упоминания в СМИ и социальных сетях. Данный процесс должен быть интегрирован с системами мониторинга вывода средств, чтобы выявлять, когда вредоносная информация влияет на поведение клиентов.
Оптимистичный настрой
Глава отдела финансовых преступлений Revolut Вуди Малуф рассказал Reuters, что лондонская финтех-компания проводит мониторинг в режиме реального времени на предмет возникновения угроз среди своих клиентов и "в более широкой экосистеме".
"Хотя мы считаем, что подобное отраслевое событие маловероятно, оно всё же возможно. Поэтому важно, чтобы финансовые учреждения были готовы. Платформы социальных сетей должны играть большую роль в предотвращении угроз", - рассказал Малуф.
Другие финансовые учреждения, с которыми связалось агентство, включая NatWest и Barclays, отказались от комментариев или не ответили на запросы.
Хотя регулирующие органы выразили обеспокоенность по поводу общего влияния искусственного интеллекта на финансовую стабильность, банки в целом настроены оптимистично в отношении влияния новой технологии.
"Банки прилагают все усилия, чтобы управлять связанными с ИИ рисками и снижать их. Регулирующие органы изучают потенциальные проблемы для финансовой стабильности, которые создает данная технология", - заявили в отраслевом финансовом органе Великобритании.
Публикация отчёта не связана с проведённым на неделе во Франции саммитом по ИИ, в ходе которого политики и руководители отрасли сосредоточились на содействии распространению ИИ, что значительно отличается от предыдущего саммита, посвящённого управлению рисками.