Автор YouTube-канала ServeTheHome побывал внутри суперкомпьютера xAI Colossus, который запустила 2 сентября принадлежащая Илону Маску компания xAI. Блогер оценил масштабы постройки и рассказал, из чего состоит новинка. xAI Colossus включает в себя 100 000 графических процессоров NVIDIA HGX H100. Один сервер содержит восемь видеокарт H100 и систему охлаждения Supermicro 4U. Сами серверы расположены в стойках — по 64 графических процессора на каждую, а те, в свою очередь, объединены в кластеры по восемь штук (512 видеокарт). Каждая видеокарта получила выделенный сетевой контроллер (400 GbE) — таким образом, пропускная способность сервера составляет 3,6 Тбит/с. Это считается нестандартным решением: обычно в суперкомпьютерах используют сеть InfiniBand вместо Ethernet. Помимо графических процессоров, внутри есть серверы для хранения данных, выполненные в 1U-корпусах Supermicro с жидкостным охлаждением. Для обеспечения резервного питания используются ИБП Tesla Megapack. Суперкомпьютер занима
Суперкомпьютер Илона Маска из 100 000 GPU показали изнутри [ВИДЕО]
31 октября 202431 окт 2024
125
1 мин