ВСем привет!
Ряды мошенников неожиданно(а кому и вполне ожидаемо) пополнились ИИ-агентами, как будто мало нам было телефонных жуликов.
Как пишет TechCrunch, новый отчёт службы безопасности Anthropic показывает, что злоумышленники активно используют возможности нейросети Claude (и, вероятно, других подобных систем).
В отчёте впервые появился термин "vibe-hacking".
По данным компании, группа опытных киберпреступников использовала Claude для вымогательства данных у минимум 17 организаций по всему миру менее чем за месяц. Среди пострадавших — учреждения здравоохранения, экстренные службы, религиозные организации и государственные структуры.
По словам главы отдела разведки угроз Anthropic Джейкоба Клейна, раньше такие атаки потребовали бы команду высококвалифицированных специалистов, но теперь благодаря ИИ-агентам их может проводить всего один человек.
В одном из описанных случаев ИИ выступал в роли технического консультанта и оператора. Claude помогал создавать психологически мотивированные требования о выкупе. Преступники оценивали стоимость украденных данных (включая медицинские записи и финансовую информацию) и запрашивали выкуп свыше 500 тысяч долларов. Клейн назвал это самым сложным применением технологий ИИ в преступных целях, которое ему когда-либо доводилось наблюдать.
Как ещё используют ИИ в мошенничестве
Отчёт приводит и другие примеры.
- Мошенничество с трудоустройством: Северокорейские IT-специалисты с помощью Claude обманом устраивались на работу в крупные американские корпорации из списка Fortune 500, чтобы финансировать оружейную программу своей страны. Люди, которые не умели программировать, профессионально общаться и слабо владели английским, просто просили нейросеть делать всю работу за них.
- Романтическое мошенничество: Telegram-бот с ежемесячной аудиторией в 10 тысяч пользователей рекламировал Claude как инструмент с высоким эмоциональным интеллектом (EQ). Бот помогал мошенникам, не являющимся носителями английского языка, создавать убедительные сообщения, чтобы завоевать доверие жертв в США, Японии и Южной Корее и выманивать у них деньги.
Anthropic признаёт, что несмотря на строгие меры безопасности, злоумышленникам иногда удаётся их обойти. Авторы отчёта считают, что ИИ значительно снижает барьеры для сложных кибератак, упрощает создание фальшивых личностей, анализ похищенных данных и многое другое.
Джейкоб Клейн подчеркнул, что эти кейсы демонстрируют глобальное изменение характера рисков, связанных с ИИ.
«Сегодня мы видим трансформацию, при которой ИИ-системы перестали быть простыми чат-ботами, поскольку они способны выполнять множество последовательных действий», — сказал Клейн, добавив, что они могут самостоятельно инициировать действия, аналогичные описанным в примерах.
Таким образом, отчёт Anthropic — это напоминание о том, как стремительно развиваются угрозы, связанные с ИИ. Он призывает индустрию и правительство внимательно следить за этой проблемой, чтобы минимизировать риски.
Всем удачи!
Ваш AppleScroll