Глава X (Twitter), Tesla, xAI и SpaceX, Илон Маск, сообщил о запуске модели искусственного интеллекта GROK 3 в Мемфисе, использующей 100 тысяч графических процессоров NVIDIA H100. Каждый из этих процессоров стоит около 30 тысяч долларов.
Маск отметил, что команды xAI, X, Nvidia и других компаний успешно начали обучение в Мемфисском суперкластере около 4:20 утра по местному времени. 100 тысяч процессоров H100 с жидкостным охлаждением объединены в одну RDMA-матрицу, что делает этот кластер самым мощным в мире для обучения искусственного интеллекта.
Ожидается, что релиз чат-бота GROK 2 состоится в следующем месяце, а GROK 3 будет готов к декабрю текущего года. Ранее xAI арендовала чипы Nvidia у Oracle, но теперь компания решила создать свой собственный центр обработки данных, который по мощности превзойдет арендованный ЦОД. Если для обучения GROK 2 использовалось 20 тысяч H100, то для GROK 3 требуется в пять раз больше вычислительной мощности.
