Найти в Дзене

Microsoft внедрила поддержку NVIDIA vGPU в Azure Kubernetes Service

Microsoft анонсировала внедрение поддержки технологии NVIDIA vGPU в Azure Kubernetes Service (AKS), что значительно повысит эффективность использования ресурсов при выполнении задач в области искусственного интеллекта и медиа. Основная цель этой интеграции — улучшить управление динамической аллокацией ресурсов (DRA) при работе с GPU, что делает AKS более конкурентоспособным на рынке облачных решений. Теперь вместо статичного распределения GPU, AKS будет использовать динамическое распределение ресурсов, позволяющее улучшить аллокацию GPU через DeviceClasses и ResourceClaims. Это означает, что один физический графический процессор может разделяться между несколькими пользователями или приложениями, что особенно важно для более мелких задач в разработке и обработке AI/ML. Новая функция основана на виртуальных машинах серии NVadsA10_v5 от Azure, позволяющих разделить GPU на фиксированные слоты на уровне гипервизора. Это улучшает управление доступностью и производительностью при контейнериз
Оглавление

Microsoft анонсировала внедрение поддержки технологии NVIDIA vGPU в Azure Kubernetes Service (AKS), что значительно повысит эффективность использования ресурсов при выполнении задач в области искусственного интеллекта и медиа. Основная цель этой интеграции — улучшить управление динамической аллокацией ресурсов (DRA) при работе с GPU, что делает AKS более конкурентоспособным на рынке облачных решений.

Динамическое распределение ресурсов и виртуализация

Теперь вместо статичного распределения GPU, AKS будет использовать динамическое распределение ресурсов, позволяющее улучшить аллокацию GPU через DeviceClasses и ResourceClaims. Это означает, что один физический графический процессор может разделяться между несколькими пользователями или приложениями, что особенно важно для более мелких задач в разработке и обработке AI/ML.

Технические детали интеграции

Новая функция основана на виртуальных машинах серии NVadsA10_v5 от Azure, позволяющих разделить GPU на фиксированные слоты на уровне гипервизора. Это улучшает управление доступностью и производительностью при контейнеризованных нагрузках, предоставляя стабильные вычислительные ресурсы при масштабировании.

Согласно заявлению команды AKS, такая интеграция помогает организациям перейти от грубого уровня распределения ресурсов к более тонкому управлению, основанному на конкретных требованиях рабочих нагрузок. В результате команды могут оптимально размещать и использовать GPU, что критически важно в отраслях с высокими требованиями к задачам.

Практическое значение обновления

Эта интеграция не только улучшает операционную эффективность, но и позволяет AKS занять более сильные позиции на фоне аналогичных решений, предлагаемых Google Cloud с их GKE. Компании, стремящиеся к оптимизации затрат и улучшению производительности в своих облачных решениях, могут извлечь значительные выгоды от этой функции, обеспечивая уровень гибкости при использовании GPU, который ранее был недоступен.

Этот шаг указывает на тенденцию к более активному внедрению GPU как полноценного ресурса в Kubernetes и отражает общий тренд на рынке облачных технологий, когда компании все больше переходят на виртуализированные решения для оптимизации своих вычислительных мощностей.

The post Microsoft внедрила поддержку NVIDIA vGPU в Azure Kubernetes Service appeared first on iTech News.