SecureTechTalks

Раньше было достаточно защититься от обычных веб-сканеров. Сегодня этого уже мало. Всё больше компаний используют agentic crawlers, т.е. AI-агентов, которые скачивают страницы, понимают структуру сайта, объединяют информацию из разных разделов, сжимают её и превращают в готовую базу знаний для RAG и LLM. На arXiv вышло исследование Out of Sight, посвящённое защите контента от агентов. ⚙️ Контент стал новой добычей Современный crawler умеет гораздо больше, чем пройтись по ссылкам. Он открывает...

Исследователи представили атаку GhostCommit, где вредоносная инструкция прячется внутри PNG-изображения в Pull Request. Для человека картинка выглядит безобидно, а большинство AI-ревьюеров вообще не анализируют её содержимое. ⚙️ Как работает GhostCommit? Атака использует разрыв между двумя типами AI-инструментов. Сначала Pull Request проходит проверку AI-ревьюером, который анализирует только текстовые изменения и пропускает изображение. Позже другой AI-агент, уже работающий с репозиторием целиком, открывает PNG, извлекает скрытую инструкцию и начинает выполнять её как часть своей задачи...

Большинство тестов безопасности проверяют LLM просто задавая опасный запрос и проверяя, откажется ли модель его исполнять. Однако исследователи показали, что для coding-агентов такой подход больше не работает. Оказывается, агент может уверенно отказаться выполнять вредоносный запрос в чате, а затем самостоятельно собрать тот же результат в процессе обычной разработки. ⚙️ Как работает jailbreak? Исследователи разбили опасную задачу на цепочку привычных действий IDE-агента: 🔹 чтение файлов проекта;...

Skills сегодня становятся аналогом npm-пакетов для AI-агентов, они расширяют возможности модели, но при этом наследуют её привилегии, могут запускать команды, читать файлы, обращаться к сети и использовать API. ⚙️ Исследования За период с марта по май 2026 года исследователи ESET проанализировали почти 900 000 skills: 🔹 более 25 000 признаны подозрительными; 🔹 свыше 3 000 содержали вредоносную функциональность; 🔹 всего за два месяца число выявленных вредоносных skills выросло почти в пять раз...

Мы дождались момента, когда AI перестал просто помогать атакующим и начал самостоятельно проводить полноценные атаки. Исследователи Sysdig разобрали кампанию JADEPUFFER, первый публично описанный случай, где LLM-агент без участия человека выполнил весь kill chain: от первоначального проникновения до шифрования инфраструктуры и требования выкупа. ⚙️ Как проходила атака? Точкой входа стала уязвимость CVE-2025-3248 в Langflow. Получив удалённое выполнение кода, агент начал действовать как опытный пентестер...