Илон Маск объявил о запуске "самого мощного в мире кластера для обучения искусственного интеллекта". Амбициозный проект направлен на создание, по словам Маска, "самого мощного ИИ в мире по всем показателям к декабрю этого года".
Суперкластер Memphis, разработанный компанией xAI, начал работу по обучению ИИ с использованием 100 000 графических процессоров Nvidia H100 с жидкостным охлаждением, объединенных в единую сеть с использованием технологии RDMA.
Запуск системы произошел в 4:20 утра по центральноамериканскому времени. Хотя маловероятно, что Маск лично включил систему, он отметил свое участие в подготовке запуска, помогая специалисту по оптоволоконным технологиям.
Этот проект — реализация амбициозных планов Маска по созданию "Гигафабрики вычислений", о чем стало известно в мае. Тогда сообщалось, что завершение проекта планировалось к осени 2025 года. Однако сегодняшние новости говорят о том, что проект был реализован на год раньше запланированного срока.
Большую часть оборудования предоставила компания Supermicro. Ее генеральный директор Чарльз Лян высоко оценил реализацию проекта, что соответствует его недавним похвалам в адрес центров обработки данных Маска с жидкостным охлаждением.
Маск заявил, что новый суперкластер будет использоваться для "обучения самого мощного ИИ в мире по всем показателям". Предполагается, что мощности установки из 100 000 GPU H100 будут направлены на обучение модели Grok 3, обучение которой должно закончиться как раз к концу года.
По масштабу вычислительных ресурсов суперкластер Memphis значительно превосходит любую систему из последнего списка Top500 самых мощных суперкомпьютеров мира. Такие системы, как Frontier (37 888 GPU AMD), Aurora (60 000 GPU Intel) и Microsoft Eagle (14 400 GPU Nvidia H100), существенно уступают новой машине xAI по количеству графических процессоров.