AWS делает серьёзный ход в сторону автоматизации. Компания применяет автоматизированные рассуждения — по сути, математическую проверку корректности — чтобы создавать новые возможности на платформе Amazon Bedrock AgentCore. Фишка в том, что компания всё глубже погружается в экосистему агентных ИИ-систем.
На ежегодной конференции re:Invent в Лас-Вегасе AWS анонсировала три новые возможности для AgentCore: политики (policy), оценки производительности (evaluations) и эпизодическую память (episodic memory). Звучит сложновато, но на самом деле это даёт компаниям гораздо больше контроля над поведением агентов и их результатами.
Плюс ещё кое-что интересное. AWS представила то, что называет «агентами нового поколения» — или фронтальными агентами (frontier agents). Они полностью автономные, масштабируемые и работают независимо. Представляете?
Swami Sivasubramanian, вице-президент AWS по агентному ИИ, рассказал журналистам VentureBeat, что многие новые фишки — это сигнал о том, кто становится разработчиком в этой сфере. «Мы находимся на пороге серьёзной трансформации с искусственным интеллектом, но именно агентный ИИ действительно меняет границы возможного, и это станет одной из самых революционных технологий», — сказал он.
Агенты с политиками: дай им правила
Новая функция policy помогает компаниям укреплять руководящие принципы даже после того, как агент уже пришёл к какому-то решению. Интересный подход, да?
David Richardson, вице-президент AWS по AgentCore, объяснил, что инструмент политики стоит между агентом и теми инструментами, которые он использует. Это не встроено в сам агент — это отдельный уровень защиты. Идея проста: не дать агенту нарушить корпоративные правила и заставить его пересмотреть своё решение.
Richardson привёл пример с агентом для обслуживания клиентов: компания может установить политику, что агент может выдать возврат денег до $100, а всё остальное должно идти к человеку. Но тут сложность: всегда найдутся хакеры, которые попытаются обойти логику агента через prompt injection или отравленные данные, чтобы он игнорировал все ограничения.
«Постоянно появляются атаки prompt injection, где люди пытаются подорвать логику работы агента и заставить его делать то, что он не должен, — говорит Richardson. — Поэтому мы поместили политику вне самого агента, и она работает с помощью тех самых автоматизированных рассуждений, которые мы развивали годами, чтобы помочь компаниям определить свои правила.»
Кстати, AWS уже представила Automated Reasoning Checks на Bedrock годом раньше. Это использует нейросимволический ИИ — математическую проверку корректности — чтобы доказать, что модель не придумала чепуху. По сути, применяются математические доказательства к моделям, чтобы проверить отсутствие галлюцинаций. AWS серьёзно ставит на нейросимволический ИИ и автоматизированные рассуждения, ставя на безопасность корпоративного уровня — и это отличает её от других провайдеров ИИ.
Память и оценки: давайте агентам больше контекста
Два других обновления — evaluations и episodic memory — помогают компаниям лучше понимать, как работают агенты, и дают агентам нечто вроде долговременной памяти.
Эпизодическая память — это по сути улучшенная версия обычной памяти AgentCore. Это информация, которую агент использует время от времени, в отличие от постоянных предпочтений, на которые он ссылается постоянно. Контекстное окно моделей имеет ограничения, поэтому агенты иногда забывают информацию или диалоги, к которым давно не обращались.
«Идея в том, чтобы запомнить информацию, которую пользователь хотел бы, чтобы агент помнил при повторном обращении, — объясняет Richardson. — Например: ‘какое предпочитаемое место в самолёте для семейных поездок?’ или ‘в каком ценовом диапазоне они ищут?'»
Эпизодическая память отличается от предыдущей версии памяти AgentCore тем, что вместо поддержания коротко- и долгосрочной памяти агенты могут вспомнить определённую информацию по триггерам. Это избавляет от необходимости писать кастомные инструкции.
С AgentCore evaluations организации получают 13 встроенных оценивателей или могут написать свои. Разработчики могут настроить оповещения, чтобы предупредить их, если агент начинает не справляться с проверкой качества.
Фронтальные агенты: новый уровень автономности
Но главный ход AWS в корпоративный агентный ИИ — это запуск фронтальных агентов. Полностью автоматизированные и независимые агенты, которые, по словам компании, могут работать как члены команды почти без указаний.
Концепция похожа на асинхронные агенты от конкурентов вроде Google и OpenAI. Но AWS выпускает не только автономные агенты для кода — это шире.
Sivasubramanian назвал их «новым классом» агентов: «не просто качественный скачок в том, что можно делать сегодня; они переходят от помощи в отдельных задачах к сложным проектам.»
Первый — это Kiro, автономный агент для кодирования, который находится в открытой бета-версии с июля. Тогда его позиционировали как альтернативу платформам вроде Codex от OpenAI или Windsurf. Как Codex и множество асинхронных агентов Google, включая Jules, Kiro может писать код, делать review, самостоятельно исправлять баги и определять, какие задачи ему нужно выполнить.
AWS Security Agent, между тем, встраивает глубокую экспертизу в области безопасности в приложения с самого начала. Компания уточняет: пользователи «устанавливают стандарты безопасности один раз, а агент AWS автоматически проверяет их во всех приложениях во время review — помогая командам обратить внимание на риски, которые действительно важны для их бизнеса, а не на общие чек-листы.»
AWS DevOps Agent помогает разработчикам, особенно тем, кто находится в дежурстве, проактивно найти сбои или баги в системе. Он может реагировать на инциденты, используя знание приложения или сервиса. Плюс ещё понимает связи между приложением и инструментами, которые использует — Amazon CloudWatch, Datadog, Splunk — чтобы найти корень проблемы.
Компании заинтересованы в развёртывании агентов и постепенно приносят всё больше автономных агентов в свои рабочие процессы. И хотя AWS и её конкуренты продолжают укреплять эти агенты функциями безопасности и контроля, организации медленно, но верно разбираются, как их все подключить вместе.
Агентный ИИ меняет правила игры в корпоративной автоматизации, и совсем скоро это может стать стандартом.🔔 Чтобы узнать больше об агентном ИИ, новых платформах и следить за последними новостями из мира искусственного интеллекта, подпишитесь на мой канал «ProAI» в Telegram!