Компания NVIDIA представила платформу Blackwell - новое достижение в области вычислений, которое позволяет организациям создавать и запускать генеративный ИИ в реальном времени на моделях с триллионами параметров на большом языке. При этом Blackwell снижает затраты и энергопотребление в 25 раз по сравнению с предшественниками.
Архитектура Blackwell GPU представляет шесть инновационных технологий для ускоренных вычислений, направленных на раскрытие прорывных возможностей в различных областях, включая обработку данных, инженерное моделирование, автоматизацию проектирования электроники, компьютерное проектирование лекарств, квантовые вычисления и генеративный ИИ.
Платформа получила широкое распространение среди крупнейших облачных провайдеров, производителей серверов и ведущих компаний, занимающихся разработкой искусственного интеллекта (ИИ). Платформу одобрили такие руководители технологических гигантов, как Сундар Пичаи из Alphabet и Google, Энди Джасси из Amazon, Майкл Делл из Dell Technologies и Марк Цукерберг из Meta*.
Инновации Blackwell включают самый мощный в мире чип, второе поколение Transformer Engine, NVLink пятого поколения, RAS Engine для надежности, передовые возможности конфиденциальных вычислений и специальный механизм распаковки.
Суперчип NVIDIA GB200 Grace Blackwell Superchip, ключевой компонент платформы Blackwell, соединяет два графических процессора NVIDIA B200 Tensor Core с CPU NVIDIA Grace, обеспечивая беспрецедентную производительность ИИ. Системы на базе GB200 могут быть подключены к платформам NVIDIA Quantum-X800 InfiniBand и Spectrum-X800 Ethernet для передовых сетевых технологий на скоростях до 800 Гб/с.
Продукты на базе Blackwell будут доступны у партнеров с конца 2024 года, а поставщики облачных услуг, такие как AWS, Google Cloud, Microsoft Azure и Oracle Cloud Infrastructure, станут одними из первых, кто предложит инстансы на базе Blackwell. Кроме того, широкий спектр серверов на базе продуктов Blackwell будет поставляться такими компаниями, как Cisco, Dell, Hewlett Packard Enterprise, Lenovo и Supermicro.
Портфель продуктов Blackwell поддерживается NVIDIA AI Enterprise, сквозной операционной системой для ИИ производственного уровня, которая включает микросервисы выводов NVIDIA NIM, фреймворки, библиотеки и инструменты ИИ. Предприятия или другие компании могут развернуть портфель в облаках, центрах обработки данных и рабочих станциях.
Поскольку организации стремятся использовать мощь больших языковых моделей с триллионами параметров, обещание Blackwell снизить затраты и энергопотребление будет очень кстати. Однако истинное влияние этой технологии еще предстоит увидеть по мере ее распространения в различных отраслях уже в 2025 году.
* - Компания Meta (социальные сети Instagram и Facebook) - признана экстремистской организацией на территории Российской Федерации.