Внедрение ИИ в Virgin Atlantic для обслуживания клиентов может свидетельствовать о результатах подхода, ориентированного на безопасность. Datadog и Virgin Atlantic подчеркивают важность контроля и человеческого надзора при использовании генеративного ИИ. — computerweekly.com
Искусственный интеллект (ИИ) все чаще позиционируется как ключ к ускоренной разработке программного обеспечения, более интеллектуальному взаимодействию с клиентами и повышению эффективности операций. Однако по мере того, как организации спешат создавать приложения на базе ИИ, растет понимание того, что успех зависит не только от самой технологии, но и от механизмов контроля, окружающих ее. Задача теперь заключается не просто в том, как использовать ИИ, а в том, как делать это безопасно, надежно и таким образом, чтобы это соответствовало целям бизнеса и ожиданиям клиентов. Создание приложений с ИИ должно упрощать процессы, но человек должен оставаться вовлеченным, чтобы обеспечить защитные барьеры в разработке и гарантировать, что приложение работает безопасно и в соответствии с замыслом. На своем саммите в Лондоне в марте компания Datadog — поставщик услуг наблюдаемости (observability) для крупномасштабных облачных приложений, которая отслеживает серверы, базы данных, инструменты и сервисы через аналитическую платформу на основе SaaS — пообещала аудитории продемонстрировать свои знания и мастерство в области использования ИИ, показав, где, по ее мнению, может быть реализован потенциал ИИ для управления современными бизнес-операциями. В год, когда, как ожидается, капитальные затраты на ИИ достигнут $725 млрд в 2026 году, этот всплеск инвестиций стимулирует трансформацию бизнеса, поскольку организации увеличивают расходы и перестраивают свою деятельность вокруг ИИ. На саммите Datadog Ири Ири Гарнье (Yrieix Garnier), вице-президент по управлению продуктами, заявил, что «множество видов агентов ИИ», запущенных компанией, помогают выявлять контекст и проблемы, а также рекомендовать исправления, поскольку каждое дополнительное вносимое изменение создает дополнительную «нагрузку на вашу систему». «Это очень изолированно, повторяемо и довольно медленно», — говорит Гарнье. «Это то, что мы уже решаем в Datadog: мы помогаем клиентам замкнуть этот сквозной цикл и гарантируем, что мы постоянно отслеживаем системный стресс. Мы стремимся предоставить клиентам нужную информацию для обнаружения проблем и информацию, необходимую для их устранения».
Требования к управлению
Компания сделала объявления в Лондоне, касающиеся, в частности, ее присутствия в дата-центрах Великобритании, с открытием нового объекта. Datadog заявляет, что это поможет клиентам соответствовать требованиям к управлению данными и безопасности по мере эволюции этих требований на фоне вопросов о цифровом суверенитете Европы. Поскольку 82% фирм, опрошенных в недавнем исследовании London Stock Exchange Group, заявили, что работают в мультиоблачных или гибридных средах, компании адаптируются к меняющимся требованиям Великобритании к управлению данными по мере ускорения внедрения облачных технологий в регулируемых организациях. Гарнье говорит, что компания инвестировала в добавление «больше ИИ в наш продукт, чтобы предоставить вам эти корреляции того, что происходит в вашей среде, чтобы вы могли пробиться сквозь шум и действительно ускорить время разрешения проблем». По утверждению Гарнье, это расширенное использование ИИ обеспечивает более автоматизированное представление и полную видимость всего комплекса, а также внедряет ИИ в мониторинг инфраструктуры. «На самом деле это помощь в очень быстром обнаружении и устранении того, что происходит внутри сред Kubernetes», — говорит он. «Понимание того, что происходит внутри этой среды, дает вам правильные рекомендации, а также применяет исправления поверх этого, изменяя вашу среду».
Знакомьтесь с Консьержем
На саммите Марк О’Нил (Mark O’Neill), старший менеджер по разработке программного обеспечения ИИ в компании Virgin Atlantic, являющейся клиентом Datadog, рассказал о достижениях Virgin Atlantic в области ИИ. Инвестиции и разработки компании были сосредоточены на чат-боте для ее веб-сайта, предназначенном для того, чтобы вывести чат-боты за рамки простого ответа на вопросы и направления посетителей через серию подсказок, и вместо этого предоставлять реальную помощь. О’Нил описывает концепцию внедрения чат-бота с ИИ, ориентированного на клиентов, как «пугающую», особенно учитывая, что он был запущен всего за 90 дней, и «особенно когда репутация бренда имеет такое большое значение». Поскольку бренд Virgin Atlantic построен на обслуживании, индивидуальности и доверии, по его словам, чат-бот Concierge должен был соответствовать этим параметрам и поддерживать помощь и ответы на вопросы, запросы Flying Club, поиск рейсов и открытие направлений для отпуска, добавив: «Для планирования поездок мы не просто давали подсказки LLM, мы наблюдали, как наши фронт-офисные команды поддерживают клиентов, а затем встраивали эти шаблоны непосредственно в Concierge». Негативный опыт использования чат-ботов на базе ИИ и их неспособность решать проблемы вместо того, чтобы заставлять пользователей ходить по кругу, создали потребность в том, чтобы такие компании, как Virgin Atlantic, создавали лучший опыт работы с чат-ботами. О’Нил говорит, что традиционные чат-боты ведут пользователей по фиксированному пути, тогда как генеративный ИИ (GenAI) может эффективно обрабатывать любую отправную точку в путешествии, что является разработкой, которой Virgin Atlantic «больше всего гордится». В частности, функция поиска отпуска позволяет пользователю найти рейс в определенное место назначения в определенную дату через Concierge. «Прелесть этой технологии в том, что она дает вам гибкость вести более разнообразные беседы», — добавляет он. Разработанный совместно с OpenAI, О’Нил признает, что существовало три опасения по поводу реализации Concierge: предоставление клиентам неверной информации, утечка персонально идентифицируемой информации (PII) и недостаточное «аутентичное соответствие образу Virgin Atlantic» путем обеспечения присутствия тона бренда. Для защиты PII О’Нил заявляет, что было принято решение о том, что Concierge не будет содержать никаких личных данных в своей системе. «Таким образом, мы не разрешаем модели получать доступ или обрабатывать личные данные клиентов», — добавляет он. «У Concierge нет контекста учетной записи, нет извлечения бронирований, нет памяти сеанса, привязанной к личности, и мы поддерживаем только операции только для чтения». Возможно, с оглядкой на утечку данных British Airways в 2018 году, Concierge может получать информацию, но не может проводить транзакции, изменять бронирования или обновлять данные учетной записи.
Создавать ли собственную LLM?
Следует ли компаниям разрабатывать собственную LLM для поддержки использования GenAI? О’Нил говорит, что Virgin Atlantic использовала модели и интерфейсы прикладного программирования (API) OpenAI в качестве основы для Concierge, а не создавала собственную LLM, добавив пользовательские подсказки и базу данных с дополненной генерацией поиска (RAG) для ответа на распространенные вопросы. Он говорит, что компания осознала, что у нее не обязательно есть внутренние знания или навыки для создания системы, поэтому она работала с консалтинговым подразделением OpenAI — TomorrowAI. Он говорит, что это предоставило знания и опыт, необходимые для продвижения проекта. «У нас в комнате были эксперты, объясняющие, как сделать это безопасно, как сделать это надежно, и это, безусловно, то, что я продвигал», — говорит О’Нил. «Что мы признали как бизнес, так это то, что мы фундаментально верим в эту технологию, и она здесь надолго». Итак, какова роль Datadog в Concierge? О’Нил говорит, что она выступает в качестве сквозной платформы наблюдаемости. От фронтенда до каждого взаимодействия с OpenAI, «у нас есть полный след всего, что происходит: мы используем это для нашего мониторинга, оповещения и проведения оценок». О’Нил говорит, что Datadog также используется в тестировании и проверке точности ответов во время разработки, что означает ее вовлеченность на протяжении всего жизненного цикла.
ИИ встречается с человеческим элементом
Посыл как от Datadog, так и от Virgin Atlantic ясен: ИИ может ускорить разработку, автоматизировать операции и улучшить качество обслуживания клиентов, но только при условии поддержки надежной видимостью, тщательным управлением и четкими границами того, что ему разрешено делать. Человеческий надзор остается необходимым, будь то мониторинг инфраструктуры, проверка ответов или обеспечение того, чтобы системы ИИ отражали ценности и тон бренда. По мере того как предприятия продолжают увеличивать инвестиции в ИИ, победителями, вероятно, станут те, кто сбалансирует скорость с контролем. Организации, которые сочетают наблюдаемость, безопасность и человеческое суждение, будут лучше всего подготовлены к созданию приложений, которые не только более функциональны, но и более надежны».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Dan Raywood