SecureTechTalks

Мы дождались момента, когда AI перестал просто помогать атакующим и начал самостоятельно проводить полноценные атаки. Исследователи Sysdig разобрали кампанию JADEPUFFER, первый публично описанный случай, где LLM-агент без участия человека выполнил весь kill chain: от первоначального проникновения до шифрования инфраструктуры и требования выкупа. ⚙️ Как проходила атака? Точкой входа стала уязвимость CVE-2025-3248 в Langflow. Получив удалённое выполнение кода, агент начал действовать как опытный пентестер...

Компания MS представила Microsoft Execution Containers (MXC), новый слой исполнения для AI-агентов в Windows и WSL. Даже если агент получил shell, написал код или решил вызвать инструмент, он не должен автоматически наследовать все права пользователя. ⚙️ Изоляция с помощью MXC MXC запускает действия агента в изолированной среде, где политики определяют, к чему разрешён доступ. Можно ограничить файловую систему, сеть, процессы и другие ресурсы ещё до выполнения сгенерированного кода. В первой версии доступны два режима...

Исследователи обратили внимание на любопытную особенность Claude Code. Если клиент работает не через официальный API Anthropic, а через собственный прокси (ANTHROPIC_BASE_URL), он может незаметно изменять символы в системном промпте. Вместо привычной строки: Today's date is 2026-06-30 клиент использует визуально идентичные символы: другой апостроф или разделитель даты. Для пользователя и модели текст выглядит одинаково, но на сервер отправляется уже немного другой набор Unicode-символов. Фактически это стеганографическая метка, встроенная прямо в системный контекст...

На arXiv вышла работа AI-Infra-Guard, фреймворк для тестирования безопасности агентных систем. Авторы разбивают фреймворк на 4 слоя: 🔹 Инфраструктурный слой: движки вывода, серверы моделей, API обслуживания 🔹 Протокольный слой: MCP-серверы, API, плагины, внешние инструменты 🔹 Агентный слой: планировщик, память, маршрутизатор инструментов, исполнитель 🔹 Модельный слой: обработка промптов, управление контекстом, логика рассуждений 🧐 Каждый слой ломается по-разному ➖На инфраструктурном уровне:...