Недавняя кампания фишинга, в которой злоумышленники использовали контент, сгенерированный искусственным интеллектом, продемонстрировала высокий уровень изощрённости и поставила под угрозу цепочку поставок ПО, в первую очередь экосистему NPM. В отличие от типичных массовых рассылок с очевидными ошибками, атака опиралась на чистую инфраструктуру и почти безупречную имитацию легитимных ресурсов.
Суть инцидента
Атака использовала домен npmjs.help, который выглядел как надежная и правдоподобная инфраструктура. Получателям пришло электронное письмо, в котором по оценкам аналитиков «70–80% контента можно отнести к искусственному интеллекту». Такое интенсивное применение NLP позволило письму пройти первичную проверку и снизить подозрительность со стороны пользователей.
Как происходила атака
- Жертва получала письмо, стилистика и язык которого были созданы с помощью ИИ и выглядели натурально;
- В письме содержалась ссылка на поддельный сайт, точную копию легитимной страницы входа в NPM;
- В письме также был встроен вредоносный JavaScript-пакет с запутанным кодом;
- После установки пакет внедрял в систему браузерный перехватчик, активирующийся при загрузке страницы;
- Перехватчик взаимодействовал с критически важными веб-API и собирал учетные данные пользователя;
- Собранные данные эксфильтровались на конечную точку websocket-api2.publicvm.com.
Технические детали
Ключевые технические элементы атаки включали:
- использование правдоподобного домена (npmjs.help) и точной визуальной копии страницы входа в NPM для снижения уровня подозрений;
- встроенный вредоносный JavaScript-пакет, содержащий запутанный код и устанавливающий перехватчик на стороне клиента;
- взаимодействие перехватчика с веб-API на стороне приложения для перехвата учетных данных;
- направление украденных данных на определённый эксфильтрационный хост — websocket-api2.publicvm.com, что указывает на целенаправленную стратегию.
Обнаружение и предотвращение
Несмотря на высокий уровень имитации, атака была успешно обнаружена и предотвращена с помощью многоуровневого механизма защиты, управляемого AI. Система использовала комбинацию подходов:
- анализ естественного языка (NLP), который распознал стилистические маркеры, характерные для сгенерированного ИИ контента;
- визуальное сравнение подозрительного сайта с оригиналом, позволившее выявить тонкие расхождения;
- проверка сертификатов и сравнение URL — именно эти расхождения и стали решающими для идентификации мошеннического ресурса.
Имитация была почти идеальной, но расхождения в сертификате и URL-адресе имели решающее значение для идентификации веб-сайта как мошеннического.
Последствия для supply chain программного обеспечения
Этот инцидент подчёркивает возросшую опасность для цепочек поставок ПО, где атаки на репозитории пакетов и доверительные механизмы разработки способны привести к массовым компрометированным системам. Использование ИИ для создания правдоподобного фишингового контента повышает вероятность успешной компрометации как отдельных разработчиков, так и автоматизированных процессов CI/CD.
Рекомендации
На основе анализа инцидента стоит рекомендовать следующий набор мер защиты:
- внедрять многоуровневые системы защиты с компонентами на базе AI для анализа текста и визуального сходства страниц;
- регулярно проверять сертификаты и полные URL-адреса при переходе на страницы авторизации, особенно если запрос исходил по электронной почте;
- сканировать и верифицировать сторонние пакеты и зависимости в репозиториях (supply chain security), применять механизмы проверки целостности;
- ограничивать автоматическую установку пакетов и вводить политику review/approval для изменений в зависимостях;
- повышать осведомлённость разработчиков и DevOps-инженеров о новых приемах фишинга с использованием ИИ;
- внедрять мониторинг аномалий сетевого трафика и доменных запросов, чтобы быстрее обнаруживать попытки эксфильтрации.
Вывод
Инцидент с использованием сгенерированного ИИ-контента демонстрирует, что кибератаки становятся не только технически изощрёнными, но и лингвистически адаптированными к человеческому восприятию. Это требует перехода к адаптивным, многоуровневым стратегиям защиты, которые комбинируют анализ поведения, анализ контента и традиционные криптографические проверки. В условиях, когда инструменты ИИ доступны злоумышленникам, организациям необходимо повышать resilience своих процессов разработки и доставки ПО, чтобы минимизировать риск широкомасштабных компрометаций.
Отчет получен из сервиса CTT Report Hub. Права на отчет принадлежат его владельцу.
Ознакомиться подробнее с отчетом можно по ссылке.
Оригинал публикации на сайте CISOCLUB: "Попытка компрометации цепочки поставок NPM через ИИ-фишинг".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Rutube | Telegram | Дзен | YouTube.