Microsoft запустила первый мегакластер Azure с 4600 GPU Blackwell Ultra для сверхкрупных ИИ-моделей
Каждый кластер состоит из более 4600 серверов Nvidia GB300 с GPU Blackwell Ultra, соединёнными через сверхскоростную сеть InfiniBand.Ferra
Лаборатория была построена с учётом распространенных референсных архитектур, позволяя клиентам тестировать свои решения с SSD Solidigm в среде, использующей те же стандарты, что и крупные центры обработки данных по всему миру.RuTab.net
Solidigm и Metrum AI недавно продемонстрировали технику, которая перемещает данные ИИ из памяти на SSD, сокращая использование DRAM до 57% во время вывода с RAG (retrieval-augmented generation) при сохранении производительности и точности.RuTab.net
Компания обещает, что новые системы смогут обслуживать следующий поколение ИИ и справляться с огромными вычислительными нагрузками.Ferra