Внедрение агентного ИИ стремительно растет, но безопасность отстает, и ее фундаментальные принципы необходимо разумно масштабировать для недетерминированного мира. — computerweekly.com
Мы живем в поистине новаторский технологический момент. Каждую неделю появляются новые прорывы в области ИИ-агентов: возможности, которые всего несколько месяцев назад казались невозможными, теперь становятся реальностью. Организации спешат внедрять их, и они правы. Однако за этим энтузиазмом скрываются важные аспекты безопасности. Согласно нашему исследованию, в Okta, 91% организаций уже внедряют ИИ-агентов, но только 10% имеют стратегии управления ими. Устранение этого разрыва потребует целенаправленного внимания и усилий. Причина кроется в чем-то более фундаментальном, чем осознает большинство людей. Мы переходим от одной архитектурной модели к чему-то принципиально иному, и мы еще не до конца осознали, что это означает для безопасности. Когда приложения перестают следовать сценарию Десятилетиями мы создавали приложения, работающие в предсказуемых рамках. Представьте себе приложение для бронирования путешествий. Вы перемещаетесь по определенным экранам и совершаете транзакцию. Возможный набор действий конечен. Безопасность работает, потому что пользователи перемещаются по охраняемым коридорам глубоко внутри логики приложения. Но ИИ-агенты работают иначе. Они ведут диалог. Они принимают вводные данные на естественном языке из любого места и принимают автономные решения, которые мы не можем полностью предсказать. Точка доступа больше не спрятана в коде приложения. Она прямо на переднем плане, в самом диалоге. Это архитектурный сдвиг, и это означает, что механизмы безопасности, на которые мы полагались, теперь подвергаются испытаниям так, как мы только начинаем понимать. Безопасность на передовой Этот сдвиг обнажает внутренние API и поверхности данных так, как никогда не делали традиционные приложения. Когда вы компрометируете детерминированное приложение, ущерб, как правило, локализован. Но когда вы компрометируете ИИ-агента, вы рискуете получить доступ ко всей вашей инфраструктуре и спровоцировать действия, которые расходятся непредсказуемым образом. То, что раньше было гипотетическим, теперь происходит, и сложность возрастает, когда агенты работают сообща. Мы переходим от отдельных агентов к коммуникации между агентами. Это создает проблемы с разрешениями и идентификацией, о которых нам действительно никогда не приходилось задумываться раньше. Переосмысление идентификации в мире, управляемом ИИ80% взломов сегодня связаны с компрометацией учетных данных или идентификации, что остается ключевой поверхностью атаки для злоумышленников. Но решение этой проблемы в мире, управляемом агентами, требует иного подхода к идентификации. Для разработчиков и организаций, развертывающих агентов, четыре требования к идентификации стали не подлежащими обсуждению: Уроки из прошлых ошибок Я уже видел этот паттерн с облачными технологиями, API и микросервисами. Вопросы безопасности часто появляются позже в разработке новых архитектурных моделей, а не раньше. Мы видим это снова с протоколами агентов. MCP, фреймворки для взаимодействия агентов и стандарты кросс-приложений развиваются быстрыми темпами с искренним стремлением встроить безопасность с самого начала. Но кажется, что безопасность все еще догоняет, а не определяет дизайн. Практическая реальность такова, что нельзя ждать идеальных стандартов. Вам необходимо внедрить управление с использованием доступных на сегодняшний день фреймворков, сохраняя при этом гибкость для адаптации по мере созревания стандартов. Что лидеры должны сделать сейчас Бизнес-лидеры испытывают реальное давление, чтобы раскрыть потенциал ИИ, и искреннюю озабоченность по поводу безопасности. Эти вещи не являются взаимоисключающими. Вот что должно произойти. Действовать проактивно, а не реактивно Взломы, связанные с агентами, происходят сейчас и будут продолжаться. Это не повод замедлять внедрение ИИ — это повод серьезно отнестись к безопасности с самого начала. Обнадеживает то, что основополагающие принципы, на которые мы полагались — управление идентификацией, доступ с минимальными привилегиями, шифрование, всесторонний аудит — по-прежнему работают. Более того, они важны как никогда. Нам просто нужно разумно масштабировать их для этого недетерминированного мира. Технологии существуют, и фреймворки появляются. Сейчас важно то, подойдем ли мы к этому вдумчиво или проведем следующие пару лет, устраняя предотвратимые инциденты. Я ставлю на то, что мы умнее этого. Шив Рамджи, президент Auth0 в Okta Что означает агентный ИИ для кибербезопасностиГенеративный и агентный ИИ в безопасности: Что следует знать CISO Агентный ИИ требует пересмотра стратегии облачной безопасности
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор –