В современном мире создание пилотного проекта на основе генеративного
ИИ часто кажется удивительно простым. Инструменты доступны, идеи витают
в воздухе, и первые впечатляющие результаты достигаются быстро. Однако
парадокс заключается в том, что, несмотря на эту кажущуюся легкость, одавляющее большинство таких инициатив по некоторым оценкам, до 9 из 10 так и не доходят до стадии полноценного производственного внедрения в корпоративной среде.
Почему столь многообещающие прототипы буксуют на пути к масштабированию? Как показывает практика, проблема кроется не столько в
возможностях самих моделей ИИ, сколько в фундаментальных архитектурных ошибках.
Превратить демонстрационный концепт в надежный, безопасный и масштабируемый корпоративный инструмент это задача колоссальной
сложности, требующая глубокого системного дизайна.
Чтобы разобраться в этих критических вызовах, мы обратились к Фрэнни Сяо, руководителю отдела архитекторов ИИ в Salesforce. Ее обширный опыт и инсайты лягут в основу нашего материала. В этой статье мы рассмотрим ключевые проблемы масштабирования корпоративного ИИ: от инфраструктуры данных до управления автономными агентами и обеспечения доверия в реальных условиях эксплуатации.
Главная ошибка: Иллюзия «чистых островов» и цена плохой инфраструктуры данных
Главная ошибка, по мнению Фрэнни Сяо, лидера AI-архитекторов Salesforce в регионе EMEA, заключается в отсутствии продуманной производственной
инфраструктуры данных с комплексным управлением с самого начала. Это
критический архитектурный просчет, который чаще всего препятствует
масштабированию пилотных ИИ-проектов до уровня полноценного
производства. Пилотные проекты часто запускаются в идеализированных
условиях, которые Сяо называет «чистыми островами». Здесь используются
небольшие, тщательно отобранные наборы данных и упрощенные рабочие
процессы. Такая среда создает ложное чувство безопасности, поскольку она
полностью игнорирует суровую реальность корпоративных данных: их
разрозненность, неструктурированность и необходимость сложной
интеграции, нормализации и трансформации, чтобы стать пригодными для
использования ИИ-системами.
Именно здесь на сцену выходит критически важный элемент — Инфраструктура данных для производства.
Это комплекс систем и процессов для сбора, хранения, обработки и
управления данными, специально разработанный для поддержки работы
ИИ-систем в реальных бизнес-условиях. Она обеспечивает надежность,
качество и доступность данных, необходимых для стабильного
функционирования ИИ. Попытки масштабировать «островные» пилоты без
предварительной подготовки и адаптации данных к производственным реалиям
неизбежно приводят к катастрофе. Возникают пробелы в данных, проблемы с
производительностью, такие как задержки вывода (inference latency), и,
как следствие, ИИ-системы становятся ненадежными и вызывают недоверие у
пользователей.
Успешное масштабирование корпоративного ИИ критически зависит от
продуманной архитектуры и сквозной инфраструктуры данных, а не только от
выбора моделей. Игнорирование этого принципа влечет за собой серьезные
риски. Экономический риск очевиден: значительные инвестиции в пилотные
ИИ-проекты, которые не масштабируются до производственного уровня из-за
архитектурных ошибок, приводят к потере ROI. Не менее важен и
технический риск: неспособность интегрировать и нормализовать
разрозненные корпоративные данные приводит к неточным результатам ИИ,
сбоям в работе и потере доверия к системе. Таким образом, фундамент для
успешного внедрения ИИ в масштабах предприятия закладывается не в выборе
самой передовой модели, а в создании надежной и гибкой инфраструктуры данных, способной справиться с реалиями корпоративной среды.
Пользовательский опыт как поле битвы: Борьба с задержками и построение доверия
Переходя от сложностей архитектуры бэкенда, мы неизбежно сталкиваемся
с критически важным аспектом масштабирования корпоративного ИИ: пользовательским опытом.
Дилемма очевидна: глубокие и сложные вычисления, необходимые для работы
современных моделей ИИ, часто приводят к задержкам, которые могут
раздражать пользователей и подрывать доверие к системе. В мире, где
каждая секунда ожидания влияет на восприятие эффективности, борьба с
этими задержками становится полем битвы за лояльность.
Salesforce, осознавая эту проблему, активно ищет решения. Как отмечает Фрэнни Сяо, они делают акцент на «воспринимаемой отзывчивости с помощью Agentforce Streaming» [1].
Этот подход позволяет системе постепенно выдавать ответы, даже когда в
фоновом режиме происходит интенсивная обработка данных. Таким образом,
пользователь получает информацию частями, что создает ощущение
непрерывного прогресса и значительно снижает воспринимаемую задержку,
делая взаимодействие с ИИ более комфортным и естественным.
Второй ключевой элемент в построении доверия и улучшении UX — это прозрачность.
Управление ожиданиями пользователя через визуальные индикаторы
прогресса играет здесь решающую роль. Использование спиннеров,
прогресс-баров и, что особенно важно, демонстрация шагов рассуждений ИИ
или используемых инструментов, не только удерживает внимание
пользователя, но и формирует понимание того, что система активно
работает. Это позволяет пользователю чувствовать себя вовлеченным в
процесс, а не просто ждать «черного ящика».
Оптимизация пользовательского опыта, включая воспринимаемую
отзывчивость и прозрачность работы ИИ, является ключевым фактором для
успешного внедрения. Однако важно найти баланс: чрезмерная прозрачность работы
ИИ может перегрузить пользователя информацией или раскрыть
конфиденциальные детали внутренней логики, снижая доверие вместо
повышения. Таким образом, задача состоит в том, чтобы предоставить
достаточно информации для управления ожиданиями, не перегружая
пользователя излишними деталями.
ИИ на краю сети: Решение для офлайн-операций и новый виток развития
В условиях, когда предприятия расширяют применение ИИ, становится очевидным, что не все сценарии могут полагаться на постоянное облачное подключение.
Для компаний с выездными операциями — будь то службы ЖКХ, логистические
гиганты или ремонтные бригады — стабильный доступ к централизованным
облачным ресурсам часто является недостижимой роскошью. Именно здесь на
первый план выходит концепция ИИ, работающего непосредственно на
конечных устройствах, предлагая автономность и надежность там, где
традиционные облачные решения бессильны.
Этот подход получил название Периферийный ИИ (Edge AI). Это подход, при котором периферийные вычисления,
то есть обработка данных и выполнение ИИ-моделей, происходят
непосредственно на конечных устройствах (например, смартфонах, датчиках,
промышленных контроллерах), а не в централизованном облаке. Это
позволяет уменьшить задержки, повысить конфиденциальность и обеспечить
работу офлайн. Фрэнни Сяо из Salesforce подчеркивает практическую
ценность такого решения, приводя наглядный пример: техник, работающий в
условиях отсутствия связи, может сфотографировать неисправную деталь,
код ошибки или серийный номер. Локальная большая языковая модель (LLM)
на его устройстве мгновенно идентифицирует проблему и предоставляет
пошаговые инструкции по устранению неисправности, используя кэшированную
базу знаний.
Ключевым аспектом такой системы является механизм автоматической синхронизации.
Как только подключение к сети восстанавливается, система самостоятельно
выполняет «тяжелую работу» по передаче собранных данных обратно в
облако, обеспечивая единый источник истины и актуальность информации.
Таким образом, работа продолжается бесперебойно даже в самых
изолированных условиях.
Преимущества периферийного ИИ многогранны. Он обеспечивает
сверхнизкую задержку, поскольку обработка происходит локально, без
необходимости отправки данных на удаленные серверы. Это также
значительно повышает конфиденциальность и безопасность данных, так как
чувствительная информация не покидает устройство. Кроме того, такой
подход способствует энергоэффективности и снижению затрат на передачу
данных. Действительно, Периферийный ИИ (Edge AI)
становится важным решением для сценариев с ограниченным подключением,
обеспечивая низкую задержку, конфиденциальность и автономность. Однако,
несмотря на все достоинства, нельзя игнорировать и сложности:
Развертывание и поддержка периферийного ИИ на множестве устройств
создает значительные сложности в управлении, обновлении и обеспечении
безопасности. Это требует тщательного планирования и надежных стратегий
управления жизненным циклом устройств.
Ответственность и контроль: Человек в цикле и «Сквозная наблюдаемость»
Миф о полной автономности ИИ-агентов, работающих по принципу
«настроил и забыл», быстро развеивается в условиях реального
корпоративного применения. Напротив, масштабирование ИИ в энтерпрайзе
требует глубокого понимания того, что автономные ИИ-агенты требуют обязательного участия человека
в критически важных точках для обеспечения ответственности, обучения и
предотвращения манипуляций. Salesforce называет это «проектированием с
учетом ответственности» и активно внедряет концепцию «человек в цикле»
(human-in-the-loop) в свои архитектурные решения. Это создает систему
«совместного интеллекта», где агенты постоянно обучаются на основе
человеческого опыта.
Фрэнни Сяо из Salesforce подчеркивает, что для обеспечения надежности
и доверия к ИИ-системам необходимо четко определить «критически важные
точки» для вмешательства человека. В Salesforce это включает в себя
любые действия категории CUD (создание, загрузка, удаление), а также
верифицированные контакты и взаимодействие с клиентами. Человеческое
подтверждение также является обязательным для принятия критически важных
решений или любых действий, которые потенциально могут быть
использованы для манипуляции через подсказки. Однако, стоит признать,
что определение таких «критически важных точек» для вмешательства
человека субъективно и может замедлять работу агентов, снижая выгоды от
автоматизации. Тем не менее, операционный риск,
связанный с недостаточным контролем и отсутствием человеческого надзора
за автономными ИИ-агентами, может привести к непредсказуемым действиям,
ошибкам или злоупотреблениям (например, через манипуляции с
подсказками), что делает этот компромисс оправданным.
Для реализации принципов ответственности и прозрачности Salesforce
разработала технические решения, обеспечивающие глубокую видимость в
работу агентов. Одним из ключевых инструментов является «Модель данных трассировки сеансов»
(Session Tracing Data Model, STDM). Она фиксирует пошаговые логи,
предоставляя детализированное представление о логике работы агента:
вопросы пользователей, шаги планировщика, вызовы инструментов,
входы/выходы, извлеченные фрагменты данных, ответы, временные метки и
ошибки.
Эта детализированная запись данных является основой для того, что Salesforce называет «Сквозной наблюдаемостью». Сквозная наблюдаемость
— это способность отслеживать и понимать работу ИИ-системы на всех
этапах её жизненного цикла, от ввода данных до выдачи результатов. Она
позволяет видеть, как система принимает решения, выявлять проблемы и
оценивать её эффективность и влияние на пользователей. Внедрение
сквозной наблюдаемости и защитных механизмов на протяжении всего
жизненного цикла ИИ-систем необходимо для их эффективности и доверия
пользователей. STDM позволяет организациям проводить «Аналитику агентов»
для оценки метрик внедрения, «Оптимизацию агентов» для детального
анализа производительности и «Мониторинг состояния» для отслеживания
времени безотказной работы и задержек. По сути, это единый центр управления для всех агентов Agentforce, обеспечивающий унифицированную видимость, мониторинг и оптимизацию.
Будущее за стандартами: Как научить ИИ-агентов «говорить на одном языке»
Современные корпоративные среды все чаще сталкиваются с необходимостью интеграции ИИ-агентов
от различных поставщиков. По мере того как компании внедряют
специализированные решения для автоматизации различных бизнес-процессов,
возникает критическая проблема: как заставить этих агентов «говорить на
одном языке» и эффективно взаимодействовать друг с другом? Без
унифицированного подхода к обмену информацией и координации действий,
потенциал мультиагентных систем остается нереализованным, а их
масштабирование становится невозможным. Именно поэтому открытые
стандарты и унифицированная семантика данных необходимы для эффективной
оркестрации и взаимодействия ИИ-агентов от разных поставщиков.
Фрэнни Сяо из Salesforce подчеркивает, что ключевым фактором для успешного масштабирования корпоративного ИИ является стандартизация,
которая требуется на двух ключевых уровнях: оркестрации и семантики.
Уровень оркестрации касается координации действий агентов и их
взаимодействия на протокольном уровне. В этом направлении Salesforce
активно использует открытые стандарты, такие как MCP (Model Context
Protocol) и A2A (Agent to Agent Protocol) [2].
Эти протоколы обеспечивают базовую совместимость, позволяя агентам
обмениваться сообщениями и задачами, независимо от их внутренней
архитектуры или вендора.
Однако протокольная совместимость — это лишь полдела. Настоящая сложность возникает на уровне семантики.
Если агенты используют один и тот же протокол, но по-разному
интерпретируют одни и те же данные или намерения, эффективное
взаимодействие невозможно. В контексте ИИ-агентов, Семантика относится к
пониманию и интерпретации значения данных и намерений. Унификация
семантики позволяет разным агентам «говорить на одном языке» и корректно
обмениваться информацией, избегая недопонимания. Это критически важно
для создания по-настоящему интеллектуальных и автономных систем.
Для решения этой фундаментальной проблемы Salesforce стала соучредителем инициативы OSI (Open Semantic Interchange) [3].
Цель OSI — разработка и продвижение открытых стандартов для унификации
семантики данных, что позволит агентам из разных систем по-настояшему
понимать намерения друг друга. Такой подход не только способствует
созданию единой, взаимосвязанной экосистемы ИИ, но и является мощным
противоядием против риска Vendor Lock-in. Отсутствие единых стандартов и
проприетарные решения создают зависимость от поставщика, ограничивая
гибкость и инновации в долгосрочной перспективе.
Конечно, разработка и принятие единых открытых стандартов для
ИИ-агентов сталкивается с сопротивлением крупных игроков рынка,
стремящихся сохранить проприетарные решения и Vendor Lock-in. Однако долгосрочные преимущества открытости
и совместимости для всей индустрии и конечных пользователей
перевешивают краткосрочные выгоды от закрытых экосистем. Будущее
корпоративного ИИ неразрывно связано с его способностью к бесшовному
взаимодействию, и именно стандарты станут тем фундаментом, на котором
будет строиться эта новая реальность.
От гонки моделей к созданию надежной ИИ-инфраструктуры
В заключение, как подчеркивает Фрэнни Сяо из Salesforce, будущее
корпоративного ИИ определяется не столько гонкой за новейшими и
крупнейшими моделями, сколько созданием надежной инфраструктуры.
«В конечном счете, следующий год — это не про гонку за большими и
новыми моделями. Это про создание оркестровки и инфраструктуры данных,
которая позволит агентным системам производственного уровня
по-настоящему развиваться». Ключевыми столпами успеха, как мы убедились,
являются продуманная архитектура данных, сквозная наблюдаемость,
эффективный человеческий контроль и приверженность открытым стандартам.
Сяо также предвидит переход от традиционных ETL-конвейеров к поисковым,
контекстно-ориентированным архитектурам, способным сделать корпоративные
данные по-настоящему «готовыми для агентов».
Рассматривая перспективы развития корпоративного ИИ,
можно выделить три основных сценария. В оптимистичном варианте,
компании успешно внедряют корпоративный ИИ, используя продуманную
архитектуру данных и открытые стандарты, что приводит к значительному
повышению эффективности, персонализации услуг и конкурентоспособности.
Нейтральный путь предполагает, что ИИ-решения внедряются точечно в
отдельных бизнес-процессах, демонстрируя умеренную эффективность, но
сталкиваясь с постоянными вызовами в интеграции данных и масштабировании
из-за фрагментированной инфраструктуры. В пессимистичном сценарии,
массовые сбои ИИ-систем из-за некачественных данных, отсутствия контроля
и проблем с производительностью приводят к потере доверия
пользователей, значительным финансовым потерям и отказу от масштабного
внедрения ИИ в корпоративном секторе. Эти сценарии подчеркивают, что
будущее корпоративного ИИ — это не магия, а результат кропотливой
инженерной работы, требующей стратегического подхода к данным и
архитектуре.