Добавить в корзинуПозвонить
Найти в Дзене
Игнатий Цукергохер
532 подписчика

ITGLOBAL предоставил GPU-инфраструктуру для запуска корпоративного AI-ассистента

1 мин
ITGLOBAL.COM помог запустить AI-ассистента для работы с корпоративными знаниями, предоставив GPU-инфраструктуру для обработки и поиска данных во внутренних источниках. Решение работает в корпоративном контуре и использует механизм RAG, который находит релевантную информацию в регламентах, шаблонах, технической документации и базе обращений, а затем формирует ответы в диалоговом формате со ссылками на первоисточники. Проект был нужен компании с несколькими бизнес-направлениями, филиальной сетью и большим массивом внутренних документов, где поиск информации по мере роста систем стал занимать слишком много времени. После внедрения AI-ассистента сотрудники начали получать ответы быстрее, а нагрузка на внутренние сервисные команды снизилась на 37%. Для развертывания решения использовалась GPU-инфраструктура на базе NVIDIA RTX 6000 Blackwell Server Edition. Это позволило обрабатывать запросы в реальном времени и масштабировать систему по мере роста числа пользователей. После запуска среднее

ITGLOBAL.COM помог запустить AI-ассистента для работы с корпоративными знаниями, предоставив GPU-инфраструктуру для обработки и поиска данных во внутренних источниках. Решение работает в корпоративном контуре и использует механизм RAG, который находит релевантную информацию в регламентах, шаблонах, технической документации и базе обращений, а затем формирует ответы в диалоговом формате со ссылками на первоисточники.

Проект был нужен компании с несколькими бизнес-направлениями, филиальной сетью и большим массивом внутренних документов, где поиск информации по мере роста систем стал занимать слишком много времени. После внедрения AI-ассистента сотрудники начали получать ответы быстрее, а нагрузка на внутренние сервисные команды снизилась на 37%.

Для развертывания решения использовалась GPU-инфраструктура на базе NVIDIA RTX 6000 Blackwell Server Edition. Это позволило обрабатывать запросы в реальном времени и масштабировать систему по мере роста числа пользователей.

После запуска среднее время поиска информации сократилось с 15 минут до 40 секунд. Это снизило число типовых обращений и позволило командам поддержки сосредоточиться на более сложных задачах.

«В GPU Cloud от ITGLOBAL.COM реализована поддержка vGPU, поэтому заказчик может использовать как полный профиль видеокарты, так и виртуализированный GPU‑профиль с настраиваемым объёмом памяти и вычислительных ресурсов. Это дало возможность стартовать с минимально необходимой конфигурации, верифицировать архитектуру на реальных данных и выйти в продуктивную нагрузку с нужным объемом ресурсов, избежав избыточных затрат на этапе пилота. Карты актуальных поколений были у нас в наличии, а скорость активации услуг позволила перейти к развертыванию в сжатые сроки, что важно, когда бизнес рассчитывает быстро проверить гипотезу и оперативно принять решение о масштабировании», — отметил Евгений Свидерский, директор облачного направления ITGLOBAL.COM, корпорация ITG.

MAX — https://max.ru/id771377261033_biz
Telegram — https://t.me/divannyi_it