10 подписчиков
Microsoft представила новый open‑source‑тулкит, который фокусируется на безопасности ИИ‑агентов именно в момент их работы — то есть на уровне runtime. Инструмент предназначен для корпоративных систем, где автономные или полуавтономные ИИ‑агенты могут инициировать действия в бизнес‑процессах: от запросов к базам данных до управления внешними сервисами. Тулкит позволяет задавать и принудительно применять правила, ограничивающие поведение агентов, а также отслеживать попытки выхода за эти рамки.
По сути, Microsoft предлагает слоя «governance по умолчанию» для корпоративного ИИ: политики безопасности и контроля внедряются не на уровне отдельных приложений, а сразу в инфраструктуру, через которую проходят все агентные запросы. Это особенно актуально на фоне роста так называемого shadow AI — несанкционированных ИИ‑инициатив сотрудников и команд, которые запускают агентов вне формальной ИТ‑политики компании. Новый инструмент призван закрыть этот пробел, дав ИТ‑и службе безопасности единое место управления агентами.
Наблюдатели отмечают, что появление таких тулкитов означает переход рынка от обсуждения «крутости» автономных агентов к их реальной эксплуатации в корпоративной среде с жёсткими требованиями к рискам и соответствию регуляциям. Для разработчиков и архитекторов ИИ‑систем это сигнал, что безопасность агентов и управление их действиями будут становиться такой же обязательной частью стека, как аутентификация или логирование.
1 минута
8 апреля