11,2 тыс подписчиков

Когда ИИ стал главным хакером

31 августа31 авг

1 мин

Изображение: recraft

Компания Anthropic представила отчёт, посвящённый стремительному внедрению систем искусственного интеллекта в схемы преступной деятельности. Документ раскрывает, как современные ИИ-модели задействуются на каждом этапе атак — от сбора информации и написания вредоносного кода до анализа украденных данных и выработки тактики вымогательства. Исследование основано на реальных эпизодах, в которых злоумышленники использовали возможности моделей Anthropic для автоматизации операций.

Один из эпизодов, получивший обозначение «взлом вибрации», показывает, как ИИ становится полноценным координатором вымогательской кампании. В течение месяца один человек при помощи модели атаковал не менее 17 целей, среди которых были больницы, структуры экстренного реагирования и государственные организации. Вместо ограниченного применения алгоритма в роли справочной системы, пользователь загружал в модель инструкции, а та сама принимала решения по ключевым шагам — от разведки и создания вируса до оценки суммы выкупа.

ИИ сканировал внутренние сети, получал логины и пароли, генерировал вредоносные компоненты, затрудняющие обнаружение, и анализировал украденные архивы. Затем на основе этих данных система выдавала индивидуальные требования к каждой жертве, с учётом сферы её деятельности, масштаба и уровня подотчётности регулирующим органам.

В документе заявлено, что подобный уровень автоматизации даёт возможность свести к минимуму участие опытных исполнителей. То, что ранее требовало командной работы специалистов, сегодня доступно отдельному человеку, если тот располагает нужной моделью. Это усложняет для специалистов по информационной защите понимание, кто именно стоит за атакой, поскольку теперь даже непрофессионал может действовать как эксперт.

Оригинал публикации на сайте CISOCLUB: "Anthropic: искусственный интеллект становится инструментом атак на всех этапах хакерских операций".