Компания OpenAI поделилась данными об обнаружении действий злоумышленников, использовавших ChatGPT для киберпреступлений. По информации из отчёта по анализу угроз, не менее трёх групп — русскоязычная и две китайские, связанные с государственными структурами, — задействовали языковые модели в процессах создания, улучшения и распространения вредоносного ПО, а также для изучения технологий спутниковой связи США и автоматизации в соцсетях.
В OpenAI уточнили, что русскоязычные участники применяли нейросети не только для оптимизации вредоносных программ под Windows, но и для отладки кода на разных языках программирования. Отдельное внимание в их действиях, как отмечено в документе, уделялось настройке систем управления и контроля, что указывает на наличие профессиональных знаний в области архитектуры операционных систем.
Специалисты OpenAI дали условное название ScopeCreep кампании, основанной на языке Go. Несмотря на выявленные действия, в отчёте подчёркнуто, что следов масштабной активности обнаружено не было. Однако эксперты отметили, что это не снижает потенциальной угрозы со стороны подобных разработок.
Механизм регистрации учётных записей для доступа к ChatGPT представлял собой цепочку из одноразовых e-mail-адресов. Каждая созданная учётная запись использовалась всего один раз — на один диалог, в рамках которого вносилось минимальное изменение в код вредоносной программы. После этого аккаунт удалялся, и злоумышленники переходили к следующему. Такой подход, как прокомментировали в OpenAI, свидетельствует о намеренном соблюдении принципов операционной скрытности.
Один из этапов атаки предполагал распространение заражённого программного обеспечения под видом легального игрового инструмента Crosshair X. Программа, размещённая в общедоступном репозитории, содержала вредоносный загрузчик. После установки он автоматически подключался к удалённому серверу, откуда загружал дополнительные файлы и выполнял их на заражённой машине.
В OpenAI подчеркнули, что использование нейросетей в таких сценариях указывает на растущую заинтересованность киберпреступников в ИИ-инструментах для повышения эффективности атак и усложнения их отслеживания.
Оригинал публикации на сайте CISOCLUB: "OpenAI выявила использование ChatGPT в атаках русскоязычных и китайских хакеров, маскирующих вредоносное ПО под игровые программы".
Смотреть публикации по категориям: Новости | Мероприятия | Статьи | Обзоры | Отчеты | Интервью | Видео | Обучение | Вакансии | Утечки | Уязвимости | Сравнения | Дайджесты | Прочее.
Подписывайтесь на нас: VK | Rutube | Telegram | Дзен | YouTube.