📰 AI-агенты: Перестройка 2.0 – как надежность стала проблемой при создании AI агентов
Привет, гики и гикессы! Сегодня у нас на повестке дня – наболевшая тема AI-агентов. Казалось бы, вот оно, будущее автоматизации, но не тут-то было. По данным VentureBeat, компании столкнулись с серьезной проблемой: надежностью.
AI-агенты входят в эру перестройки
После первой волны безумного внедрения AI-агентов в производственные процессы, организации обнаружили, что LLM (большие языковые модели) сами по себе не гарантируют успех. Долгосрочные AI-воркфлоу должны выдерживать сбои, сохранять состояние, восстанавливаться после неудач, управлять затратами на вывод и координировать работу с API, инструментами и корпоративными системами.
Preeti Somal, старший вице-президент по инженерии в Temporal Technologies, заявила на последнем мероприятии AI Impact Series в Нью-Йорке: "У нас есть много клиентов, которые приходят к нам, когда строят версию 2.0 того же агента. Им нужно было двигаться очень быстро, но они не позаботились о сантехнике. Все ломается и горит, и тогда они возвращаются к перестройке с надежным фундаментом".
Для компании Temporal, занимающейся оркестровкой рабочих процессов, чья инфраструктура предшествует нынешней волне agentic AI, этот сдвиг отражает более широкое осознание предприятиями: производственные AI-системы требуют устойчивого исполнения, управления состоянием, видимости рабочих процессов и механизмов для восстановления в случае сбоя моделей или подчиненных систем. Agentic AI зарядил знакомые инженерные проблемы.
"Эти шаблоны не обязательно новы, - сказала Сомал. - AI просто заряжает их".
Agentic системы добавляют дополнительную сложность, потому что они часто включают в себя длительные, многоэтапные процессы, охватывающие несколько служб, моделей, API и инструментов. Один рабочий процесс может вызывать несколько больших языковых моделей, получать доступ к системам поиска, запускать внешние приложения и управлять состоянием в течение часов или дней. Инженерные вопросы, по словам Сомала, часто возникают только после развертывания.
"Люди будут писать агентов, но не думали о том, что произойдет, если агент выйдет из строя, - сказала она. - Нужно ли мне будет запускать весь поток агента снова?" Для предприятий, работающих в условиях ограничений по затратам, ответ имеет значение. Перезапуск рабочих процессов после сбоев может увеличить расходы на вывод, увеличить задержку и создать плохой опыт для клиентов.
Сомал сравнила нынешний момент с более ранним периодом внедрения корпоративных облачных технологий, когда организации сразу перешли к миграции рабочих нагрузок, прежде чем подумать о том, что им нужно перепроектировать базовые архитектуры, если они хотят, чтобы эти рабочие нагрузки выдержали долгосрочную перспективу.
"Эта спешка с AI в мире, где вы даже не модернизировали свое приложение, немного напоминает мне тот lift-and-shift, который произошел в облаке, - сказала она. - Все поняли, что вы тратите больше денег на облако, и мы не получили там никакой выгоды".
Почему долго работающие агенты требуют новой архитектуры
Корпоративные рабочие процессы все чаще включают агентов, выполняющих действия в течение длительных периодов времени, иногда охватывающих много часов при взаимодействии с инструментами и системами....
🔗 Полный текст статьи читайте у нас на сайте: Читать на TechLoot
📢 ТехноЛут
