SecureTechTalks

Большинство тестов безопасности проверяют LLM просто задавая опасный запрос и проверяя, откажется ли модель его исполнять. Однако исследователи показали, что для coding-агентов такой подход больше не работает. Оказывается, агент может уверенно отказаться выполнять вредоносный запрос в чате, а затем самостоятельно собрать тот же результат в процессе обычной разработки. ⚙️ Как работает jailbreak? Исследователи разбили опасную задачу на цепочку привычных действий IDE-агента: 🔹 чтение файлов проекта;...

Skills сегодня становятся аналогом npm-пакетов для AI-агентов, они расширяют возможности модели, но при этом наследуют её привилегии, могут запускать команды, читать файлы, обращаться к сети и использовать API. ⚙️ Исследования За период с марта по май 2026 года исследователи ESET проанализировали почти 900 000 skills: 🔹 более 25 000 признаны подозрительными; 🔹 свыше 3 000 содержали вредоносную функциональность; 🔹 всего за два месяца число выявленных вредоносных skills выросло почти в пять раз...

Мы дождались момента, когда AI перестал просто помогать атакующим и начал самостоятельно проводить полноценные атаки. Исследователи Sysdig разобрали кампанию JADEPUFFER, первый публично описанный случай, где LLM-агент без участия человека выполнил весь kill chain: от первоначального проникновения до шифрования инфраструктуры и требования выкупа. ⚙️ Как проходила атака? Точкой входа стала уязвимость CVE-2025-3248 в Langflow. Получив удалённое выполнение кода, агент начал действовать как опытный пентестер...

Компания MS представила Microsoft Execution Containers (MXC), новый слой исполнения для AI-агентов в Windows и WSL. Даже если агент получил shell, написал код или решил вызвать инструмент, он не должен автоматически наследовать все права пользователя. ⚙️ Изоляция с помощью MXC MXC запускает действия агента в изолированной среде, где политики определяют, к чему разрешён доступ. Можно ограничить файловую систему, сеть, процессы и другие ресурсы ещё до выполнения сгенерированного кода. В первой версии доступны два режима...

Исследователи обратили внимание на любопытную особенность Claude Code. Если клиент работает не через официальный API Anthropic, а через собственный прокси (ANTHROPIC_BASE_URL), он может незаметно изменять символы в системном промпте. Вместо привычной строки: Today's date is 2026-06-30 клиент использует визуально идентичные символы: другой апостроф или разделитель даты. Для пользователя и модели текст выглядит одинаково, но на сервер отправляется уже немного другой набор Unicode-символов. Фактически это стеганографическая метка, встроенная прямо в системный контекст...