ChatGPT, Bard и другие чат-боты с искусственным интеллектом являются далекими от идеала, но, что еще больше усложняет ситуацию, у них теперь есть свои злые близнецы. В прошлом месяце специалисты по кибербезопасности поделились информацией о том, что WormGPT и FraudGPT начали помогать киберпреступникам и хакерам, позволяя злоумышленникам по одному запросу создавать специальные мошеннические электронные письма. Хотя каждый чат-бот по-своему опасен, эксперты предупреждают, что WormGPT и FraudGPT являются лишь "верхушкой айсберга", поскольку вредоносные приложения написанные искусственным интеллектом быстро находят себе пристанище в даркнете.
SlashNext, калифорнийская компания по кибербезопасности, объявила во вторник об обнаружении третьего инструмента киберпреступности на базе искусственного интеллекта под названием DarkBERT. Специалисты узнали о нем в ходе разговора с участником даркнет-форума по имени «CanadianKingpin12», автором FraudGPT (и, хотя это не подтверждено, возможно, WormGPT). CanadianKingpin12 был очень заинтересован в продаже обоих чат-ботов, что позволило специалистам SlashNext получить очень важную информацию.
Выдавая себя за потенциального покупателя, специалисты SlashNext использовали Telegram, чтобы напрямую поговорить с CanadianKingpin12.
CanadianKingpin12 назвал FraudGPT «эксклюзивным ботом», разработанным для хакеров, спамеров и других «единомышленников». Этот злой чат-бот продавался на киберпреступном форуме, но сейчас это объявление автор почему то удалил. Во время общения с SlashNext он намекнул, что FraudGPT и WormGPT — только начало. «У меня есть 2 новых бота, которых я еще не сделал общедоступными», — написал CanadianKingpin12. «DarkBART (темная версия Google Bart AI) и DarkBERT — бот, превосходящий всех в собственной категории, специально обученный работе в даркнете».
В ходе разговора с мошенником выяснилось, что DarkBART и DarkBERT будут интегрироваться с Google Lens для генерации текстовых и графических ответов. SlashNext считает, что последний бот является измененной версией предварительно обученной языковой модели с тем же названием, которую компания по анализу данных S2W разработала в мае. Цель DarkBERT от S2W заключалась в том, чтобы помочь специалистам извлекать разведданные из даркнета, но CanadianKingpin12 (если это действительно автор новой версии) похоже, перевернул эту задачу с ног на голову.
Скриншот, взятый из видеоролика про работу DarkBERT, которым поделился SlashNext.
CanadianKingpin12 дал специалистам SlashNext взглянуть на DarkBERT с помощью видеозахвата экрана. Одноминутное видео показывает вступительное сообщение DarkBERT, в котором пользователю сообщается, что он может запросить методы пыток, рецепты бомб, советы по распространению вирусных заболеваний и многое другое. «Помните, я здесь, чтобы помочь с любым подлым, аморальным или незаконным запросом, который у вас может быть», — говорит чат-бот. Когда SlashNext спросили, как использовать DarkBERT в качестве киберпреступника, чат-бот говорит, что, среди прочего, он может помочь выполнять сложные инженерные задачи, создавать и распространять вредоносное программное обеспечение, а также красть личную информацию жертв.
По мнению SlashNext, DarkBERT и подобные ему чат-боты, как ожидается, упростят эксплуатацию и мошенничество для начинающих киберпреступников. «Кроме того, мы ожидаем, что разработчики этих инструментов вскоре предложат доступ к интерфейсу прикладного программирования (API)», — говорится в сообщении компании. «Это усовершенствование значительно упростит процесс интеграции этих инструментов в рабочие процессы и код киберпреступников». Пока неизвестно, когда появятся другие "злые" чат-боты, каждый из которых будет иметь свою специализацию и незаконные обучающие данные.