Найти тему

Ускорение выполнения приложений ИИ с Vitis AI 2.5 от Xilinx

Оглавление

Компания AMD-Xilinx выпустила новый релиз своей популярной платформы разработки приложений искусственного интеллекта с использованием аппаратного ускорения Vitis AI. Релиз версии 2.5 доступен для скачивания с Гитхаба с 15 июня 2022 г.

Ожидается, что ИИ будет играть все более важную роль в различных областях деятельности. Учитывая огромный рыночный спрос на приложения ИИ для центров обработки данных и оконечных устройств, компания AMD-Xilinx сосредоточилась на расширении и улучшении функций своего пакета Vitis AI, чтобы обеспечить наивысшую скорость работы таких приложений на своих платформах. Обзор новых и улучшенных функций последней версии 2.5 пакета Vitis AI представлен ниже.

Глубоко оптимизированные модели ИИ в Model Zoo

В версию 2.5 добавлены: самая популярная модель обработки естественного языка BERT-NLP, преобразователь зрения VIT, а также сквозная модель OCR, SLAM SuperPoint и HFNet для работы в реальном времени. Также, после слияния Xilinx с AMD, была добавлена поддержка 38 базовых и оптимизированных моделей, используемых библиотекой AMD Zen Deep Neural Network (ZenDNN) на серверных процессорах AMD EPYC. Таким образом, с помощью Vitis AI пользователи процессоров AMD получат ускорение работы своих приложений искусственного интеллекта. На рисунках ниже представлена структура новых моделей.

Высокоэффективный поток разработки ИИ приложений для центров обработки данных

Добавленная в предыдущем релизе функция Whole Graph Optimizer (WeGO) получила положительные отзывы от разработчиков, внедряющих приложения ИИ в центрах обработки данных. WeGO предлагает удобную методологию для развертывания моделей ИИ на облачных процессорах глубокого обучения (DPU) путем интеграции стека ИИ Vitis в структуру приложения ИИ. В новом релизе Vitis AI 2.5, WeGO поддерживает больше фреймворков, таких как Pytorch и Tensorflow 2. Так же в релизе Vitis AI 2.5 добавлено 19 примеров, включая классификацию изображений, обнаружение объектов и сегментацию, что упрощает для разработчиков развертывание моделей AI на платформах центров обработки данных.

-2

Оптимизированный блок процессора глубокого обучения и программные средства

Производительность приложений ИИ на платформах Xilinx обеспечивается набором мощных механизмов ускорения и простых в использовании программных инструментов. В настоящее время предлагаются масштабируемые DPU для ключевых ПЛИС Xilinx, адаптируемых СнК Versal и ускорителей для центров обработки данных Alveo™.

В версии 2.5 Versal DPU IP поддерживает многочисленные аппаратные ускорители ИИ, имеющиеся в устройствах Versal AI Core. Новое арифметико-логическое устройство (ALU) с измененным механизмом пула и механизмом свертки Depthwise обеспечивает поддержку новых функций, включая большие ядра MaxPool и AveragePool, AveragePool с прямоугольным ядром, а также 16-битные постоянные веса.

Кроме того, IP-ядра DPU теперь поддерживают больше паттернов комбинаций слоев моделей сверточных сетей Depthwise и LeakyRelu.

Облачные DPU теперь поддерживают, среди прочего, более крупный размер ядра Depthwise, пул ядер ИИ большего размера, а также пул аппаратных AI Engine.

-3

Узнать больше о Vitis AI 2.5

Полный список новых и улучшенных функций в версии Vitis AI 2.5 находится на странице «Что нового».

Для получения дополнительной информации о зоопарке модели AI, и компонентах пакета Vitis AI – квантователе, оптимизаторе, компиляторе, DPU IP, WeGO и ускорителе приложений (WAA), перейдите на страницу Vitis AI.

Новейший инструмент Vitis AI 2.5, включая предустановленную DOCKER-версию, можно свободно скачать со страницы представительства Xilinx на Гитхабе.

Компания Макро Групп является дистрибьютером продукции Xilinx в России и странах СНГ и осуществляет техническую поддержку пользователей.