Компания по информационной безопасности SlashNext представила результаты исследования, согласно которым киберпреступники начали применять технологии генеративного ИИ для подготовки и реализации фишинговых кибератак. Специалисты по информационной безопасности отмечают, что хакеры стали использовать чат-бот ChatGPT от компании OpenAI и специальный инструмент WormGPT для совершения киберпреступлений.
WormGPT основан на языковой модели GPTJ, разработанной ещё в 2021 году. Он предоставляет неограниченную поддержку символов с сохранением памяти чата и возможностью форматирования кода. Эксперты по кибербезопасности компании SlashNext отмечают, что WormGPT способен проявлять «стратегическую хитрость», что помогает злоумышленникам организовывать особо сложные и изощрённые фишинговые кибератаки.
Для обучения WormGPT использовались наборы данных, связанные с вредоносной и злонамеренной деятельностью в киберпространстве. При этом авторы инструмента не раскрывают точную природу происхождения этих данных.
В ходе проведенного эксперимента специалисты компании SlashNext поручили чат-боту WormGPT создать электронное письмо от имени менеджера по работе с клиентами и отправить его с просьбой оплатить отдельный счёт. В результате искусственный интеллект создал довольно убедительный текст, который наверняка покажется правдоподобным некоторым сотрудникам бухгалтерии.
Эксперты по кибербезопасности отмечают, что тот же ChatGPT может сгенерировать текст, который будет очень похож на настоящий. Киберпреступники активно применяют этот общедоступный инструмент для автоматизации разработки убедительных и персонализированных электронных писем. Кроме того, каждый такой текст может быть переведён на различные языки, даже те, которыми сами киберпреступники не владеют.
Злоумышленники также активно распространяют джейлбрейки для интерфейса ChatGPT, специально предназначенные для раскрытия различных конфиденциальных данных, разработки неприемлемого контента или даже выполнения вредоносного кода.
Компания SlashNext резюмирует, что развитие искусственного интеллекта и генеративных ИИ-технологий существенно уменьшает барьеры для входа новых лиц в киберпреступный мир\, а также делает кибератаки более точными, чем раньше.
Актуальные вакансии по ИБ: https://cisoclub.ru/vacancy/. Отправить резюме во все популярные IT-компании: https://cisoclub.ru/jobmail/
Больше интересного материала на cisoclub.ru. Подписывайтесь на нас: VK | Twitter | Rutube | Telegram | Дзен | YouTube.
