Вслед за Google набирающий популярность чат-бот ChatGPT признали угрозой и эксперты компании Check Point Research. Правда, речь в этом случае не о конкуренции среди поисковиков — как оказалось, использовать «болтливый» ИИ уже научились хакеры для написания вредоносного кода.
Важная особенность разработанного компанией OpenAI чат-бота — способность работать в диалоговом режиме, поддерживая запросы на естественных языках. Хотя технически условия использования алгоритма запрещают создание вредоносного софта, хакеры, по словам экспертов, нашли способ обойти это ограничение, «уговорив» ИИ помочь им в создании кода.
В качестве примера исследователи привели написанную на Python программу, которая ищет файлы, включая изображения и документы Microsoft Office, копирует их, а затем выгружает на сервер злоумышленника. В другом случае скрипт на Python используется для шифрования и дешифровки файлов, и при некоторой доработке может превратиться в программу-вымогатель.
Ещё одному пользователю удалось написать при помощи чат-бота код на основе Java, который в связке с PowerShell можно использовать для скрытой загрузки и запуска других вредоносных программ в заражённых системах. Кроме того, в конце прошлого года участник одного из хакерских форумов продемонстрировал инструмент для создания скриптов, которые позволяют получать информацию учётных записей других пользователей.
По словам экспертов, трудно сказать, насколько эффективной окажется кибератака, сгенерированная с помощью ChatGPT. Кроме того, с технической точки зрения чрезвычайно сложно определить, была ли вредоносная программа написана с использованием именно этого ИИ-бота.