Представители хакерских форумов активно применяют чат-бота ChatGPT для создания вредоносного софта. При этом некоторые пользователи, которые эксплуатируют ИИ-решение, даже не имеют каких-либо навыков программирования. Проигнорировать условия разработчика и настроить нейросеть на киберпреступную линию получается с легкостью.
Американская ИИ-лаборатория OpenAI объявила о запуске чат-бота около двух месяцев назад. С помощью решения осуществляется поиск ответов на вопросы, комментариев. С её помощью создаются рассказы и ведётся работа с кодом: написание, ответы и поиск ошибок в написанном и т. д.
Эксперты компании по безопасности из Check Point обнаружили, что в первое время после официального запуска чат-бота ChatGPT представители хакерских группировок начали использование этого решения для написания вредоносного ПО, которое могло использоваться в целях шпионажа, шантажа и распространения спама.
Специалисты Check Point подчеркнули, что пока сложно сказать о том, будет ли чат-бот ChatGPT являться одним из наиболее востребованных инструментов в теневом сегменте интернета, но киберпреступные сообщества уже проявили существенный интерес к нему и используют для написания вредоносного кода.
В исследовании компании Check Point также приведено несколько примеров. В частности, в декабре 2022 года один из хакеров представил код, написанный на языке Python. Этот код был создан для кражи конфиденциальной информации после внедрения эксплойта, способного отыскивать конкретные типы файлов и отправлять их на сервера злоумышленников. Автор заявлял, что он делился опытом с пользователями, которые хотят создавать вредоносное ПО, но не имеют достаточных навыков.
Специалисты по информационной безопасности Check Point провели собственные эксперименты. Они попросили ChatGPT создать фишинговое письмо, в котором пользователю говорилось о том, что его учётная запись была заблокирована. Вместе с письмом жертва должна была получить вредоносное вложение со встроенным VBA-макросом, разработка которого также была доверена чат-боту ChatGPT. Несмотря на то, что правила использования ИИ-решения запрещают пользоваться приложением в неправомерных целях, специалисты Check Point смогли с лёгкостью обойти все ограничения, заставив бота выполнить все требуемые запросы.
Больше интересного материала на cisoclub.ru. Подписывайтесь на нас: VK | Twitter | Telegram | Дзен | YouTube | Rutube.
