NVIDIA анонсировала конвергентные ускорители A30X и A100X, позволяющие выполнять ресурсоёмкие задачи на периферии, границе сети и в дата-центрах уровнем безопасности и производительности. В устройствах объединены ускоритель Ampere, DPU и коммутатор PCIe.
Наличие этих компонентов на одной физической карте повышает эффективность использования пространства и энергии. Применение конвергентных ускорителей позволяет упростить развёртывание и обслуживание систем на базе ИИ. Изделия выполнены в виде полноразмерных двухслотовых карт расширения с основным интерфейсом PCIe 4.0 x16, двумя портами 100G Ethernet/InfiniBand и выделенным портом управления.
Модель A30X с TDP 230 Вт сочетает ускоритель A30 и DPU BlueField-2. Объём памяти HBM2e составляет 24 Гбайт (ПСП 1,16 Тбайт/c). С помощью технологии MIG (Multi-Instance GPU) укоритель можно разделить на четыре инстанса, на каждом из которых может быть запущен отдельный сервис. Вариант A100X с TDP 300 Вт получил ускоритель A100 с 80 Гбайт памяти HBM2e (ПСП 1,94 Тбайт/с) и всё тот же DPU BlueField-2. Возможно использование до семи инстансов.
Модель A100X также имеет три мостика NVLink 3.0 для прямого подключения нескольких ускорителей друг к другу, а у A30X такой мостик только один. «В системах, где требуется несколько GPU и DPU, конвергентный ускоритель позволяет избежать конфликтов при попытке одновременной передачи данных по шине PCIe, поэтому производительность увеличивается линейно числу дополнительных устройств», — заявляет NVIDIA.
Ускорители могут работать в двух режимах. В стандартном режиме хост-система видит GPU и DPU и может работать с ними независимо. В режиме BlueField-X набортный PCIe-коммутатор сконфигурирован так, все ресурсы GPU эксклюзивно отданы DPU, поэтому хост-системе доступен только DPU.
Новинки могут быть использованы для обслуживания малых сот и базовых станций посредством 5G vRAN, для предоставления ускоренных 5G-сервисов, формирования высокопроизводительных «умных» систем хранения данных, ИИ-обработки трафика, детектирования сетевых аномалий, сервисов информационной безопасности (Morpheus) и т.д.