SecureTechTalks

Что теперь делать? PipeLock - open-source execution proxy для AI-агентов. Инструмент встраивается между агентом и системой исполнения и начинает проверять каждую команду до того, как она попадёт в shell. Сильной стороной проекта является уровень контроля. PipeLock анализирует уже финальную команду, после того как LLM её сгенерировала. Технически процесс выглядит следующим образом: система перехватывает shell invocation → парсит итоговую команду → раскладывает её на бинарник, флаги, аргументы и execution context → сравнивает с политиками...

Похоже, эпоха «универсальных» агентов начинает заканчиваться. На GitHub появился репозиторий Anthropic Cybersecurity Skills, набор готовых procedural skills для offensive-security задач. Унифецировать operational workflow для агентов кибербезопасности становится проще. Внутри набор специализированных "SKILL.md", заточенных под конкретные сценарии: 🔹 web exploitation 🔹 reconnaissance 🔹 reverse engineering 🔹 binary analysis 🔹 vulnerability research 🔹 CTF-style workflows ⚙️ Немного о сценариях Skill ограничивает search space агента...

Anthropic выпустила первый апдейт по Project Glasswing, инициативе, где их закрытая модель Claude Mythos ищет уязвимости в критически важном ПО: 🔹 Просканировано >1000 open-source проектов 🔹 Найдено 23 019 проблем 🔹 Из них 6202 high/critical 🔹 Более 90% проверенных находок оказались настоящими уязвимостями Mythos не просто помогает человеку искать баги, он автономно работает как исследователь безопасности: анализирует код, находит zero-day, строит цепочки эксплуатации и даже генерирует exploit path...

С появлением агентских систем prompt injection начинает напоминать полноценный malware lifecycle, где вредоносное воздействие закрепляется, распространяется и приводит к реальным действиям в инфраструктуре. ⚙️ От одного prompt к полной компрометации Современные AI-агенты больше не ограничиваются диалогом. Они работают с: 🔹 MCP/tool calling 🔹 long-term memory 🔹 RAG и внешними документами 🔹 API и SaaS-интеграциями 🔹 filesystem и runtime actions Это означает, что prompt перестаёт быть просто текстом, он начинает работать как операционный payload, способный менять поведение всей системы...

Большинство SAST движков работают через data flow analysis (DFA). Система пытается ответить вопрос, может ли пользовательский input добраться до опасной операции? Однако built-in rules часто знают только «популярные» фреймворки и ограниченный набор propagation patterns. Если используются нестандартные framework или кастомные wrapper, то flow фактически исчезает из анализа. 🧠 LLM как переводчик Исследователи решили использовать LLM для автоматического обнаружения sources и sinks внутри open-source framework’ов...

? Немного ликбеза: Skills - это структурированные пакеты процедурных знаний для LLM-агентов. Этакий внешний слой опыта как искать уязвимость, как проводить triage, как выполнять exploitation workflow, какие шаги делать дальше. Обычно это выглядит как: 🔹 инструкции (SKILL.md) 🔹 attack templates 🔹 best practices 🔹 lessons learned 🔹 procedural playbook’и Вместо того чтобы каждый раз «изобретать» exploitation path, агент получает готовый operational memory. 🧪 Эксперименты Исследователи взяли...

cve-lite-cli - open-source command-line tool, который упрощает создание и сопровождение CVE-записей. Инструмент превращает vulnerability disclosure в developer-friendly workflow. Вместо ручной возни с CVE JSON schema и форматами теперь можно работать через обычный CLI. Создание записи выглядит, как работа с git: 🔹 создать draft CVE 🔹 заполнить vulnerability metadata 🔹 добавить affected products 🔹 описать impact и remediation 🔹 обновить или опубликовать запись 🧠 Автоматизация Технически инструмент работает поверх CVE Record Format (JSON 5...

Сегодня на обзоре Promptfoo: open-source framework для red teaming и security testing AI-приложений. Инструмент работает как automated evaluation pipeline для LLM-систем. Вы описываете: 🔹 prompt’ы 🔹 модели 🔹 attack cases 🔹 expected behavior 🔹 security assertions Promptfoo начинает системно ломать вашу AI-систему, запуская батарею adversarial тестов. 🧠 Основные фичи Решение строится вокруг evaluation-as-code. Тесты описываются декларативно (YAML/JSON), что благодаря чему проверки становятся воспроизводимыми и кастомизируемыми...

Ещё недавно казалось, что AI-assisted vulnerability research является очевидным благом. Модель анализирует код, находит больше багов, безопасность растёт. Но AI научился производить потенциальные уязвимости быстрее, чем люди успевают их проверять. ⚙️ Discovery ускорился, а validation нет Современные LLM действительно неплохо помогают в vulnerability research. Они умеют: 🔹 быстро проходить по large codebase 🔹 искать suspicious execution paths 🔹 сопоставлять API interactions 🔹 строить exploit...

В мае вышла работа MetaBackdoor, где исследователи из Microsoft и Institute of Science Tokyo описывают новый тип backdoor-атак на LLM. Главная идея исследования использовать в качестве trigger не содержимое prompt, а позицию токенов в контексте. достиг определённой позиции в sequence → переключил поведение модели Авторы называют это meta-trigger, потому что он связан не с текстом, а с метасвойствами последовательности. Например: 📚 контекст превысил определённую длину 📍 токены оказались в нужном...

Большинство систем deepfake detection работают, как поиск статистических аномалий. Модели анализируют: 🔹 микродвижения лица 🔹 артефакты compression 🔹 inconsistencies в освещении 🔹 частотные особенности изображения 🔹 temporal anomalies между кадрами Другими словами, detector пытается найти признаки того, что контент был синтетически сгенерирован. Однако современные генеративные модели начинают производить данные, статистически близкие к реальным. ⚙️ Гонка вооружений Deepfake-generation и deepfake-detection давно превратились в adversarial cycle...

Большинство AI-систем относятся к embedding как к безопасному промежуточному формату, т.к. Вектор не выглядит как текст и не содержит очевидного payload. Поэтому embedding’и спокойно: 🔹 передаются между сервисами 🔹 индексируются в vector DB 🔹 попадают в shared storage 🔹 используются в retrieval pipeline Практически никто не анализирует их содержимое с точки зрения безопасности. А зря. ⚙️ Что такое VectorSmuggle Исследователи показали, что внутри embedding можно скрытно кодировать произвольные данные, сохраняя при этом его внешнюю «нормальность»...