Cisco открыла исходный код Project Quarry – движка поведенческого обнаружения, который следит за ИИ-агентами и помогает командам безопасности не дать агентам выйти из-под контроля, как при взломе Hugging Face. Проект должен дать общий язык для оценки поведения агентов – по аналогии со Snort, который также поддерживает Cisco, и YARA. Большинство инструментов обнаружения опираются на конкретные взаимодействия с моделью: была ли попытка внедрения промпта, вызвал ли агент инструмент атаки. «Но чего...