Создатель FraudGPT, а также WormGPT, активно разрабатывает следующее поколение преступных чат-ботов с гораздо более продвинутыми возможностями.
Исследователь из компании SlashNext Дэниел Келли (Daniel Kelley) представился потенциальным покупателем и связался с человеком под ником «CanadianKingpin12», который продвигал FraudGPT. В ходе беседы CanadianKingpin12 упомянул DarkBART и DarkBERT, подразумевая, что эти новые инструменты, помимо прочих возможностей, смогут экспортировать код и передавать графику вместе с текстом через интеграцию с Google Lens.
В своем сообщении в блоге Келли поделился информацией от CanadianKingpin12, согласно которой DarkBERT выйдет далеко за пределы возможностей социальной инженерии, характерных для предыдущих инструментов.
Эти возможности включают в себя способность:
- Эксплуатировать уязвимости в компьютерных системах, включая критическую инфраструктуру
- Обеспечивать создание и распространение вредоносного ПО, включая программы-вымогатели
- Предоставлять конечным пользователям информацию об уязвимостях нулевого дня
Растущий потенциал киберпреступности с использованием ИИ
Келли, который в начале июля также разоблачил WormGPT, отметил, что FraudGPT обладает теми же базовыми возможностями, что и WormGPT, и мог быть разработан теми же людьми, однако FraudGPT имеет еще больший потенциал для вредоносного использования. Стоит отметить, что на некоторых форумах веб-хакеров темы о FraudGPT были удалены из-за его мошеннического подхода к продвижению, поэтому CanadianKingpin12 теперь общается через Telegram.
Вредоносная версия DarkBERT, судя по всему, была специально разработана для совершения киберпреступлений, что вызывает опасения по поводу возможной эксплуатации DarkBERT от S2W, даже если разработчики FraudGPT ошибочно выдают ее за свою собственную работу.
По словам Келли, разработчики этих инструментов в скором времени могут предложить доступ к интерфейсу прикладного программирования (API). «Такое продвижение значительно упростит процесс интеграции этих инструментов в рабочие процессы и код злоумышленников», – пишет он. «Такой прогресс вызывает серьезные опасения относительно возможных последствий, поскольку сценарии использования подобных технологий будут становиться все более изощренными.»
Появление этих новых вредоносных чат-ботов говорит о возможности быстрого роста изощренности киберугроз, создаваемых искусственным интеллектом. По мере того как эти инструменты будут набирать обороты и упрощаться в использовании, потенциальным киберпреступникам будет проще осуществлять такие атаки, как компрометация деловой электронной почты (BEC) и другие противоправные действия, что снизит планку для сложных кибератак.
Защита от киберпреступлений с использованием ИИ
Борьба с киберпреступлениями, совершаемыми с помощью искусственного интеллекта, потребует еще большей бдительности в обеспечении кибербезопасности, включая обучение сотрудников противодействию фишингу и социальной инженерии, использование почтовых шлюзов и аутентификации для защиты электронной почты, а также исправление уязвимостей, которые с наибольшей вероятностью могут быть использованы.