Агентный ИИ выявляет недостатки в корпоративных рабочих процессах, подчеркивая слабые данные, неясную ответственность и неопределенные процессы, но лучшее управление и интеграция могут помочь. — computerweekly.com
Когда в ноябре прошлого года соучредитель DevRev Манодж Агарвал заявил аудитории в районе Кэнэри-Уорф в Лондоне, что «работа сломана», он уловил разочарование, которое разделяют многие ИТ-директора (CIO). Годы исправлений, плагинов и новых платформ оставили после себя разросшиеся программные ландшафты, сложность и рабочие процессы, которые зависят как от ручного надзора, так и от автоматизации. Корпоративное программное обеспечение, возможно, стало мощнее, чем когда-либо, но поток работы во многих организациях остается фрагментированным и непрозрачным. Предложение о том, что агентный ИИ является панацеей от всех бед, вполне понятно встречают со скептицизмом. И все же прогнозы указывают на быстрый рост в ближайшие несколько лет, поскольку организации продолжают увеличивать расходы на ИИ и автоматизацию. Ожидается, что глобальные технологические инвестиции будут неуклонно расти до конца десятилетия, чему отчасти будет способствовать ИИ, согласно Forrester. Gartner прогнозирует, что к 2028 году большинство брендов будут использовать агентный ИИ во взаимодействии с клиентами в течение следующих нескольких лет. В то же время Gartner предупредила, что более 40% проектов агентного ИИ могут быть отменены к концу 2027 года по мере того, как станут более очевидными проблемы управления, затрат и реализации. Недавний анализ McKinsey подчеркивает этот момент. В то время как агентные возможности быстро развиваются, большинство организаций остаются в режиме экспериментирования, изо всех сил пытаясь выйти за рамки строго определенных пилотных проектов, не решая более глубоких проблем операционной модели и данных. Все это поднимает более фундаментальный вопрос: достаточно ли структурно прочна сама корпоративная работа, чтобы поддерживать автономию в масштабе? Анкур Ананд, глобальный ИТ-директор Nash Squared, считает, что нет. Он говорит, что когда агентам разрешено оркестровать реальные рабочие процессы в различных системах, они становятся «жестоко честными в отношении того, что на самом деле существует», добавляя: «Он с готовностью последует процессу, который вы разработали, а во многих предприятиях это означает, что он добросовестно воспроизводит хаос». ИТ-директора описывают, как агенты застревают на элементах контроля доступа, эскалируют исключения, которые никогда не были формально определены, или генерируют результаты, которые показывают, насколько фрагментирован базовый ландшафт данных. Технология делает то, для чего она предназначена. Она выполняется в соответствии с доступными правилами и информацией. Там, где эти правила неясны или информация неполна, слабости становятся трудно игнорировать. На практике это означает быстрое проявление заблокированных рабочих процессов, дублирования записей и неясной ответственности. Gartner в своем предупреждении об ограничении масштабов проектов агентного ИИ предполагает, что проблемы управления и реализации стали ключевыми причинами. Тем временем данные опроса Camunda свидетельствуют о том, что многие организации остаются в пилотной фазе, несмотря на широкое экспериментирование. Джо Тёрнер, глобальный директор по исследованиям в Context, видит знакомую картину. Он сравнивает текущую фазу экспериментов с агентным ИИ с ранними днями внедрения частного облака, когда мощная инфраструктура накладывалась на операционные модели, которые существенно не изменились. Результат, по его мнению, был предсказуем: сложные платформы, построенные на расплывчатом управлении и ручных очередях заявок. «Помещение высокоскоростного двигателя на слабую архитектуру, — добавляет он, — редко является рецептом эффективности». Параллель распространяется за пределы проектирования процессов на дисциплину затрат. С частным облаком многие организации обнаружили, что создали гибкие среды без контроля потребления для управления ими. Агентный ИИ несет аналогичный риск. Неограниченные вызовы моделей в плохо определенных рабочих процессах могут обернуться значительными расходами токенов, особенно когда агентам разрешено итерировать или эскалировать действия неоднократно. Как отмечает Анкур Ананд, сами по себе затраты становятся диагностическим инструментом. Если экономика не сходится, это часто указывает на то, что автоматизируемый рабочий процесс никогда не был достаточно стабильным. Проблема управления глубже, чем просто затраты. Агентные системы — это не пассивные инструменты — они совершают действия, вызывают API и перемещают данные через границы. Это отлично, если все работает хорошо, но это также увеличивает радиус поражения, когда что-то идет не так. Сэм Сазерленд, ведущий инженер-программист в технологической консалтинговой компании Parallax, утверждает, что инженерная дисциплина, необходимая для развертывания агентных систем, часто недооценивается. «Добиться того, чтобы что-то заработало, довольно легко, — говорит он. — Гораздо сложнее сделать это безопасным, надежным и управляемым». В нескольких проектах, по его словам, команды намеренно избегали создания единого, всемогущего агента. Вместо этого они проектируют меньших агентов с узкой областью действия и четко определенными полномочиями. Цель — сдерживание. Ограничение доступа снижает влияние ошибок и повышает надежность, особенно там, где длинные цепочки рассуждений могут ухудшить производительность. Видимость — еще одна проблема. Без подробной телеметрии, показывающей, какие инструменты вызывал агент, какие решения он принял и куда он эскалировал, системы быстро становятся непрозрачными, что не очень хорошо, если вы работаете в регулируемом секторе.
Ловушка ИИ
Адам Лоу, технический директор платформы безопасной связи Wire, предостерегает от того, что он называет «ловушкой ИИ» — развертывания агентных систем там, где было бы достаточно более традиционных инструментов рабочего процесса. Автономные агенты преуспевают в динамичных, неструктурированных средах; в статических, повторяющихся процессах они могут внести ненужную сложность. Автономия расширяет возможности, но также расширяет и ответственность. Если ранние развертывания выявляют слабости, они также заставляют организации быть более четкими в отношении того, как выполняется работа. Ананд говорит, что многие корпоративные процессы никогда не были должным образом определены от начала до конца, а вместо этого развивались с течением времени под влиянием обходных путей и индивидуальных суждений. Агенты устраняют эту гибкость. «Ценность появляется, когда вы рассматриваете эти сбои как телеметрию», — говорит он. Заблокированное действие или повторяющаяся эскалация выявляют пробел в данных, ответственности или управлении. Для ИТ-директоров, готовых столкнуться с этим, трение становится полезным, поскольку оно показывает, где дисциплина процессов слаба. Это может объяснить, почему одни проекты продвигаются вперед, а другие приостанавливаются. В Bill.com, клиенте DevRev, ИТ-директор Стив Хануарио говорит, что пять внутренне разработанных агентов уже поддерживают клиентов в продакшене. Он говорит, что внимание было сосредоточено не просто на возможностях модели, а на архитектуре, лежащей в основе. «Нельзя просто выпустить агента, — добавляет он. — Архитектура под ним определяет, добавит ли он ценность или станет еще одним неудачным пилотом». Развертывание заняло семь недель от контракта до продакшена. Скорость сработала, потому что команды работали вместе и прорабатывали практические детали интеграции и контроля. Контраст очевиден. Там, где автономия накладывается на неясные рабочие процессы, она выявляет беспорядок. Там, где процессы отображены, а ответственность определена, она может устранить трение.
Недостатки данных
Где есть проблема, в ее основе лежат данные. Рави Малик, глобальный ИТ-директор Box, говорит, что многие организации все еще борются за создание единого, надежного источника истины. Данные разбросаны по множеству приложений и различаются по качеству от команды к команде. Агенты не могут эффективно рассуждать, если базовая информация непоследовательна или неполна. «Бизнесу необходимо сосредоточиться на унификации и кураторстве данных, чтобы гарантировать, что у агентов есть правильный, актуальный контекст для выполнения работы», — говорит он. Малик проводит параллель с более ранними миграциями в облако. Некоторые компании переносили инфраструктуру, не меняя того, как они работали — затраты сместились, но процессы остались прежними. Тот же риск применим и к агентному ИИ, поскольку встраивание агентов в существующие силосы без пересмотра операционной модели вряд ли принесет ожидаемую выгоду. Джон Бэнс, главный операционный директор консалтинговой компании Leading Resolutions, видит схожую картину. Большинство ИТ-директоров, с которыми он работает, не спешат к полностью автономным агентам; они сосредоточены на очистке данных, упрощении рабочих процессов и снижении операционного шума. «Без стабильных основ данных, четких ограждений и хорошо спроектированных рабочих процессов агенты ИИ просто усиливают существующие проблемы, а не решают их», — говорит он. В ранних пилотных проектах, по его мнению, слабости быстро проявляются, поскольку сейчас работа заключается не столько в расширении автономии, сколько в укреплении основ. Это не означает, что организации полностью отказываются от агентного ИИ — во многих случаях они становятся более избирательными.
Готовность
Артур Ху, старший вице-президент и глобальный ИТ-директор Lenovo, говорит, что проблема заключается в готовности. В исследовании, проведенном компанией совместно с IDC, было установлено, что лишь меньшинство организаций сообщают о значительном использовании агентных систем на сегодняшний день, и многие ожидают, что пройдет больше года, прежде чем они будут готовы к масштабированию. Барьеры, как правило, сосредоточены на зрелости управления, сложности интеграции и неясной ответственности, а не на производительности моделей. Ранний энтузиазм способствовал широкому экспериментированию. Команды тестировали агентов в различных функциях, часто не определяя полностью, где начинается автономия и где заканчивается человеческий надзор. Этот подход меняется — права принятия решений становятся явными; требования к аудиту определяются раньше; а автономия вводится поэтапно, начиная с наблюдения и контролируемого выполнения, прежде чем перейти к ограниченному действию. Картина знакома — появляется новая возможность: первая фаза — исследование, вторая — дисциплина. Для ИТ-директоров это еще одна волна инвестиций, накладываемая на уже перегруженный ландшафт. Риск очевиден — больше инструментов, больше интеграции, больше сложности. Агентный ИИ сам по себе не исправит сломанную работу. Он не может компенсировать слабые данные, неясную ответственность или неопределенные процессы. Что он может сделать, так это выявить, где работа зависит от человеческого вмешательства, а не от замысла. Он заставляет организации определять то, что они ранее оставляли неявным. Это давление неудобно, но, возможно, оно давно назрело. DevRev и ее клиенты, безусловно, так считают — и, судя по всему, они не одиноки.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Marc Ambasna-Jones