Современные технологии искусственного интеллекта предоставляют множество возможностей, однако они также могут стать мишенью для злоумышленников. Недавние исследования выявили, что Microsoft Copilot, встроенный в операционные системы Windows, может быть легко использован для кражи конфиденциальной информации и проведения фишинговых атак. Это открытие было озвучено на конференции Black Hat в Лас-Вегасе соучредителем компании Zenity, Майклом Баргури.
На конференции Баргури продемонстрировал, как хакеры могут использовать возможности Copilot для создания фишинговых писем за считанные минуты. Традиционно, чтобы подготовить фишинговую атаку, злоумышленникам требовалось много времени для создания убедительных писем. Однако с помощью Microsoft Copilot этот процесс значительно упрощается. По словам Баргури, он может собрать контактную информацию и отправить сотни электронных писем с минимальными усилиями.
Одним из наиболее тревожных моментов, продемонстрированных исследователями, стало то, как злоумышленники могут обманом заставить Copilot изменить информацию о получателе банковского перевода. Для этого достаточно отправить вредоносное электронное письмо, и целевой сотрудник даже не должен его открывать, чтобы атака удалась. Это подчеркивает уязвимость системы и необходимость более строгих мер безопасности.
В другой демонстрации Баргури показал, как, задавая простые вопросы, он смог получить доступ к конфиденциальным данным сотрудников. Он начал с получения адреса электронной почты своей коллеги Джейн и выяснил содержание их последнего разговора. Затем он смог создать фишинговое письмо, имитируя стиль общения Джейн и используя точную тему их последнего обмена сообщениями. В результате всего за несколько минут он создал убедительное фишинговое сообщение, которое могло содержать вредоносное вложение.
Microsoft Copilot, и в частности Copilot Studio, дает компаниям возможность настраивать чат-ботов для выполнения специфических задач. Однако это требует доступа к корпоративным данным, что увеличивает риски безопасности. Многие чат-боты по умолчанию доступны для поиска в Интернете, что делает их легкой целью для хакеров.
Существуют также способы обойти защитные механизмы Copilot, используя вредоносные подсказки из внешних источников. Например, если чат-бот посещает сайт с вредоносным контентом, он может быть скомпрометирован и заставлен выполнять нежелательные действия. Баргури подчеркивает, что предоставление ИИ доступа к данным создает новую поверхность атаки, которая может быть использована злоумышленниками. Важно помнить, что чем более полезен бот, тем больше он подвержен рискам.