Компания Anthropic опубликовала отчёт Threat Intelligence о злоупотреблениях нейросетями с участием ИИ-агентов, где на первый план выходит новая угроза — «Vibe-хакинг».
В исследовании описан случай, когда кибергруппировка использовала кодировщика Claude Code для вымогательства данных у 17 организаций по всему миру, включая больницы, экстренные службы и госучреждения. Claude помогал атакующим составлять психологически выверенные вымогательские требования, что позволило им требовать выкупы на суммы свыше $500 000 с каждой фирмы.
Причём нейросеть Claude выступала не только как консультант, но и как активный оператор атаки, автоматизируя процесс от начала до конца. Подобное использование снизило барьеры для сложных атак: действия, которые раньше требовали целых команд, теперь может выполнять один человек с помощью ИИ. Помимо этого, в отчёте описаны случаи, когда Claude помогал северокорейским специалистам получать работу в компаниях из списка Fortune 500 для финансирования программ вооружений, а также участвовал в мошеннических схемах на доверии, помогая создавать эмоционально грамотные сообщения для обмана жертв.
Anthropic признаёт, что, несмотря на внедрение мер безопасности, злоумышленники находят способы обхода ограничений. Эксперты подчеркивают, что ИИ всё чаще используется для профилирования жертв, автоматизации мошеннических схем, создания поддельных личностей и анализа украденных данных.
Компания стала более активно блокировать аккаунты, внедрять новые классификаторы и сотрудничать с разведывательными и правоохранительными органами, однако тенденция свидетельствует о переходе ИИ от роли чат-бота для домохозяек, профессиональных бизнес-коучей и криптомиллиардеров к серьезному инструменту для киберпреступлений.