В AWS стали доступны инстансы EC2 G5g, которые построены на собственных Arm-процессорах AWS Graviton2 и ускорителях NVIDIA T4G. Как утверждается, эти решения обеспечивают наилучшее соотношение цены и производительности для GPU-нагрузок, включая графические приложения и задачи инференса — они могут быть почти на треть выгоднее x86-инстансов.
Инстансам доступно подключение к сети со скоростью вплоть до 25 Гбит/сек, а к EBS-томам — до 19 Гбит/сек. Новинки предлагают от 4 до 64 vCPU и от 8 до 128 Гбайт RAM (соотношение 1:2), но старшая конфигурация с двумя ускорителями доступна и в виде bare metal. Стоимость аренды начинается от $0,42/час. Всего на выбор доступны шесть конфигураций:
Среди возможных нагрузок приводятся следующие:
- Стриминг Android-игр — G5g работают на процессорах Arm, поэтому нет нужды в кросс-компиляции или эмуляции x86, а использование дискретной графики позволяет ускорить обработку видеопотока и кодирование.
- Задачи инференса, которые чувствительны к производительности CPU.
- Рендеринг графики с использованием графических API OpenGL и Vulkan.
Отметим, что инстансы совместимы со всеми популярными графическими библиотеками и библиотеками машинного обучения, включая NVENC, NVDEC, nvJPEG, OpenGL, Vulkan, CUDA, CuDNN, CuBLAS и TensorRT. Кроме того, NVIDIA предложит готовые AMI-образы со всем необходимым ПО и драйверами, а также доступом к каталогу NGC.
