YADRO успешной протестировала работу on-prem версии нейросетевой модели GigaChat от Сбера на платформе своего нового ИИ-сервера YADRO G4208P G3 (включены в Единый реестр российской радиоэлектронной продукции Минпромторга)
Тестирование подтвердило готовность новых серверов к эксплуатации в корпоративных инфраструктурах с повышенными требованиями к производительности при работе с передовыми моделями искусственного интеллекта
Тесты проводились группой компаний ЦРТ на базе операционных систем Astra Linux и Platform V SberLinux
В составе тестовой конфигурации использовались четыре графические карты, обеспечивавшие необходимый уровень производительности при работе с моделью
Пилотный проект подтвердил готовность серверов к работе с современными ИИ-нагрузками — от анализа больших данных до прикладного использования ML-решений
Ключевой запрос крупного бизнеса и госсектора — внедрение прогрессивных отечественных решений на основе генеративного искусственного интеллекта. Актуальный тренд — внедрение облачных решений, но при повышенных требованиях к безопасности формируется спрос на on-prem-внедрения — установку в закрытый контур организаций. Появление полноценной российской GPU-платформы помогает удовлетворить такой спрос. Результаты тестирования on-prem модели GigaChat c cерверами YADRO позволили нам убедиться в их совместимости и высокой эффективности, а главное — открыть для всех наших клиентов комплексное решение, включающее нейросетевую модель Сбера GigaChat и инфраструктуру YADRO для безопасного внедрения новейших GenAI-решений
Получается, теперь ГигаЧат с оптимизацией под конкретную задачу бизнеса можно развертывать в собственных ЦОДах, а не городить огород на трофейных решениях
