В начале июня исследователи Cato Networks зафиксировали атаку, которая наглядно показывает: киберпреступники научились использовать не только поддельные страницы и украденные логотипы, но и… легитимные платформы искусственного интеллекта.
В ходе кампании жертвам рассылались письма якобы от руководителей фармацевтической компании. Внутри — защищённый паролем PDF-файл. Такой формат помогал обойти стандартные фильтры безопасности, ведь вложение выглядело как обычный рабочий документ.
Открыв файл, получатель попадал на Simplified AI — известную маркетинговую платформу, которой многие доверяют. Но именно это доверие и сыграло ключевую роль. Злоумышленники использовали возможности сервиса, чтобы объединить брендинг фармацевтической компании с элементами Microsoft 365. В результате пользователи оказывались на поддельной странице входа в Microsoft 365, не вызывающей подозрений. Все введённые данные тут же перехватывались.
Под удар попала как минимум одна американская инвестиционная компания, но главное в этой истории — не отдельный случай. Кампания демонстрирует новую стратегию атак: вместо сомнительных доменов или подозрительных серверов преступники используют репутацию известных AI-сервисов. Получается эффект «троянского коня»: трафик выглядит легитимным, а за ним скрывается кража учётных данных.
Для компаний это тревожный сигнал. Риск «теневого» ИИ — когда сотрудники подключают сторонние сервисы без одобрения и контроля безопасности — становится вполне реальной точкой входа для атак.
Что с этим делать?
Простых решений нет, но несколько направлений защиты очевидны. Многофакторная аутентификация должна быть включена для всех критически важных сервисов. Сотрудников нужно учить настороженно относиться к защищённым вложениям и перепроверять ссылки даже в привычных сервисах. Наконец, организациям стоит внедрять постоянный мониторинг AI-трафика и продвинутые системы обнаружения аномалий.