Эксперты по кибербезопасности компании Palo Alto Networks обнаружили, что можно использовать большие языковые модели (LLM) для масштабной генерации новых вариантов вредоносного кода JavaScript таким образом, чтобы их было сложнее обнаружить.
Исследователи Palo Alto Networks в своём новом отчёте заявили, что хотя большие языковые модели вряд ли могут создавать вредоносное ПО с нуля, киберпреступники могут легко использовать их для переписывания или сокрытия существующего вредоносного ПО, что затрудняет его обнаружение средствами защиты. Хакеры могут подтолкнуть LLM к выполнению преобразований, которые выглядят гораздо более естественно, что усложняет выявление вредоносного кода.
По словам аналитиков, при достаточном количестве преобразований со временем этот подход может снижать эффективность систем классификации вредоносных программ, заставляя их поверить в то, что фрагмент вредоносного кода на самом деле безвреден.
Разработчики LLM всё чаще ужесточают меры безопасности, чтобы предотвратить неконтролируемое использование и непреднамеренный вывод данных, но злоумышленники рекламируют и используют даркнет-инструменты, например WormGPT, как способ автоматизации процесса создания убедительных фишинговых писем, привязанных к потенциальным целям, и даже создания нового вредоносного ПО.
Ещё в октябре 2024 года компания OpenAI сообщила, что заблокировала более 20 операций и мошеннических сетей, которые пытались использовать её платформу для разведки, исследования уязвимостей, поддержки скриптов и отладки.
Эксперты по кибербезопасности компании Palo Alto Networks заявили, что использовали возможности LLM для итеративного переписывания существующих образцов вредоносного ПО с целью обхода обнаружения с помощью моделей машинного обучения (ML), например Innocent Until Proven Guilty (IUPG) или PhishingJS, что фактически проложило путь к созданию 10 000 новых вариантов JavaScript без изменения функциональности.
Полная версия отчёта представлена по ссылке.
Оригинал публикации на сайте CISOCLUB: "Palo Alto: ИИ может генерировать 10 000 вариантов вредоносного ПО, избегая обнаружения в 88% случаев".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Rutube | Telegram | Дзен | YouTube | X.