С момента появления в прошлом году чат-бот ChatGPT пользуется большим спросом для написания статей, сценариев, даже стихов. Алгоритм искусственного интеллекта способен создавать программный код, если подробно описать ему задачу. В большинстве случаев данная функциональность используется в безобидных целях. Однако, злоумышленники не дремлют и могут применить искусственный интеллект для создания вредоносных программ, обходя механизмы защиты разработчиков из компании OpenAI.
Специалист по информационной безопасности сообщает, что он смог при помощи ChatGPT создать эксплоит нулевого дня для кражи данных со взломанных устройств. Этот эксплоит не смог распознать не один антивирус в сервисе VirusTotal.
Аарон Малгрю из компании Forcepoint рассказал, что решил не писать код самостоятельно. Он называет себя новичком в деле написания вредоносных программ. По этой причине Малгрю применяет язык программирования Go за его простоту и возможность вручную отлаживать код. Также применялась стеганография для сокрытия секретных данных в файле, чтобы их не обнаружили.
В начале исследователь попросил ChatGPT разработать вредоносное программное обеспечение, что бот отказался делать. Затем он попросил сгенерировать небольшой фрагмент кода, чтобы потом вручную собрать исполняемый файл. Бот создал код, который не зафиксировали антивирусы. Запутать код оказалось непросто, поскольку бот отказывается выполнять подобные запросы.
И всё же, всего за несколько попыток это удалось сделать. После первой попытки код был признан вредоносным пятью антивирусами. После нескольких изменений антивирусы перестали распознавать его как вредоносное ПО.
На всё это ушло несколько часов. По мнению Малгрю, без помощи искусственного интеллекта целая команда разработчиков трудилась бы над решением этой задачи 5-10 недель.
В данном случае всё это было сделано с исследовательскими целями. Однако, теоретически можно создать код для использования уязвимостей нулевого дня в программном обеспечении. Например, есть вероятность написания кода для извлечения важных документов с диска C, пишет Techspot.