🚨 ИИ в кибербезопасности выходит из-под контроля
ИИ в кибербезопасности перестал быть помощником. За последние два года путь был довольно прямым: сначала LLM подсказывали пентестеру, затем начали автоматически выполнять задачи.
Новая работа Alias Robotics фиксирует момент, когда, работающий ранее подход, перестаёт масштабироваться. Дальнейший прогресс упирается не в размер модели, а в то, как именно принимаются решения.
Речь идёт не о «сверхразуме» в популярном смысле, а о системах, которые в отдельных классах задач стабильно превосходят человека по скорости и качеству стратегических решений.
🧑💻 От ассистента к агенту
PentestGPT стал первым массовым примером применения LLM в offensive security. Модель помогала планировать шаги, интерпретировать вывод инструментов и удерживать контекст атаки. Человек при этом оставался в контуре исполнения.
Агент CAI убирает человека из execution loop. AI сам планирует, сам исполняет команды, сам анализирует результаты и корректирует стратегию.
На бенчмарках это даёт кратный выигрыш по времени и стоимости, особенно в реверсе и форензике.
Однако в задачах pwn и crypto человек всё ещё выигрывает, но не за счёт скорости, а за счёт стратегического мышления.
⚠️ Автоматизация и интеллект
Авторы показывают важный предел: автономный агент без стратегической модели остаётся реактивным. Он эффективно выполняет локальные шаги, но плохо оценивает динамику противостояния, повторяет неудачные ходы и демонстрирует нестабильное поведение.
Проблема тут не в качестве LLM. Главная проблема в отсутствии формальной модели противника.
♟️ G-CTR: теория игр на практике
Game-Theoretic Guidance (G-CTR) добавляет агенту символьный уровень рассуждений. Из текущего контекста строится граф атаки, по которому вычисляется равновесие Нэша между атакой и защитой. Результат превращается в компактное стратегическое описание и встраивается в system prompt.
Это резко снижает вариативность поведения и повышает долю успешных сценариев. В Attack & Defense режимах такие агенты стабильно обыгрывают LLM-only системы 🧠
🔄 Ключевые изменения
Ключевой сдвиг в распределении ролей.
Человек перестаёт быть исполнителем и становится наблюдателем и контролёром стратегии.
ИИ берёт на себя не только выполнение, но и принятие решений в рамках формальной модели.
Это рабочая архитектура и серьёзный вызов для процессов, построенных под человеческий темп и человеческое мышление.
🔗 Источник статьи:
➖https://arxiv.org/abs/2601.14614
Stay secure and read SecureTechTalks 📚
#SecureTechTalks #AIsecurity #Cybersecurity #LLM #AgenticAI #Pentest #SOC #RedTeam #GameTheory #InfoSec
