Всего за 60 евро в месяц пользователи даркнета могут обойти этические ограничения генеративных текстовых сервисов с искусственным интеллектом, таких как ChatGPT.
«Вырожденная модель большого языка (LLM)», как метко описал ее PCGamer, известна как WormGPT. Разработанный хакерами, WormGPT не заботится о морали и может быть использован для выполнения любых задачи, включая создание вредоносных программ.
Он во многом работает как ChatGPT — принимает запросы на человеческом языке, а затем генерирует все без каких-либо ограничений.
WormGPT построен на основе LLM GPT-J с открытым исходным кодом 2021 года и обучен на данных о создании вредоносных программ. По сути, он предназначен для генерации вредоносных программ и шаблонов для фишинговых писем. Это настоящий пример того, насколько опасными могут стать такие инструменты. Без этики и контроля WormGPT является опасной версией ChatGPT или Bard.
В тесте, проведенном SlashNext, возможности WormGPT были описаны как «тревожные». Они поручили чат-боту с искусственным интеллектом разработать фишинговую электронную почту, также известную как компрометация деловой электронной почты (BEC). И WormGPT смог это сделать на отлично. В отчете говорится, что WormGPT разработал что-то «удивительно убедительное, но также и стратегически хитрое, демонстрирующее свой потенциал для изощренных фишинговых атак и BEC-атак».
Адрианус Варменховен, эксперт по кибербезопасности NordVPN, назвал WormGPT «злым близнецом ChatGPT», сообщает PCGamer. Эксперт добавил, что WormGPT появился в результате «игры в кошки-мышки» между ограничениями OpenAI в отношении ChatGPT и необходимостью злоумышленников их обойти.