Недавно исследователь в области безопасности Аарон Малгрю из компании Forcepoint продемонстрировал, как можно использовать ChatGPT для разработки вредоносного ПО, способного обходить некоторые системы обнаружения вирусов. Эксперимент показал, что нейросети могут оказаться полезными инструментами для злоумышленников.
Исследователь начал с проверки возможностей генерации кода вредоносного ПО с помощью ChatGPT. Несмотря на то, что первый запрос не принес результата, Малгрю смог сгенерировать небольшие фрагменты кода и вручную составить полноценный исполняемый файл.
В качестве цели были выбраны конкретные пользователи с высокой стоимостью информации. Вредоносное ПО должно было искать ценные документы на диске C, не загружая внешние файлы и не вызывая подозрений. В итоге был выбран метод "жизни на местности", когда вместо загрузки и выполнения нового кода используются уже существующие утилиты.
Для поиска и эксфильтрации документов исследователь обратился к ChatGPT с запросом на генерацию кода, ищущего на локальном диске PNG-изображения размером более 5 МБ. Затем исследователь попросил ChatGPT добавить код, который бы использовал стеганографию для сокрытия данных в найденном изображении.
Для эксфильтрации исследователь использовал код, сгенерированный с помощью ChatGPT, который перебирал папки с документами, рабочим столом и данными приложений в поисках PDF- или DOCX-документов. В конечном итоге исследователь создал работоспособный прототип вредоносного ПО и протестировал его на платформе VirusTotal.
Результаты показали, что только пять антивирусных движков из 69 определили файл как вредоносный. Эксперимент подчеркивает необходимость разработки новых механизмов обнаружения и предотвращения угроз для противодействия подобному вредоносному ПО.