На этой неделе на конференции по технологиям графических процессоров (GTC), организованной Nvidia, компания Micron продемонстрировала свои новые модули памяти MCR DIMM емкостью 256 ГБ. Эти модули нацелены на использование в серверах следующего поколения, в том числе на базе процессоров Xeon Granite Rapids от компании Intel. В настоящее время, как сообщает Micron, ее покупатели проводят собственные тесты модулей MCRDIMM объемом 256 ГБ.
Micron продемонстрировала один увеличенный модуль MCRDIMM DDR5-8800 емкостью 256 ГБ на выставке GTC, показанный на фото, но также планирует предложить модули MCRDIMM стандартной высоты для серверов 1U. Оба модуля MCRDIMM емкостью 256 ГБ основаны на монолитных микросхемах DDR5 емкостью 32 ГБ, но в большом размещено по 80 микросхем DRAM, по 40 с обеих сторон модуля, тогда как в стандартном используются пакеты 2Hi, расположенные в стопке, что приведет к немного большему нагреву из-за меньшего пространства для рассеивания тепла. Что касается энергопотребления, то большой модуль потребляет около 20 Вт, что очень неплохо.
Модули DIMM с мультиплексором комбинированного ранга (MCR) представляют собой тип двухрангового модуля памяти, который позволяет обоим рангам работать одновременно с использованием специализированного буфера. Буфер позволяет двум физическим рангам действовать аналогично тому, если бы это были два модуля по отдельности, работающими параллельно, таким образом удваивая производительность за счет одновременного извлечения 128 байтов данных из обоих рангов за один такт, что двукратно повышает производительность одного модуля. При этом буфер работает со своим контроллером памяти причем на скорости, превышающей стандартные в данном случае 8800 МТ/с.
Обычно модули с двумя физическими рангами функционируют как один модуль, а это означает, что когда процессор или контроллер памяти извлекают данные из такого модуля, он ограничен возможностью выборки 64 байтов данных за раз. MCRDIMM удваивают это значение, тем самым существенно увеличивая емкость и производительность каждого модуля.
Учитывая тот факт, что Micron продемонстрировала свои модули MCRDIMM емкостью 256 ГБ на выставке GTC, вполне вероятно, что компания позиционирует эти продукты для серверов, работающих в области искусственного интеллекта на базе процессоров Intel Xeon Granite Rapid. Поскольку такие системы, как правило, требуют очень большого объема памяти для обучения, новые модули большой емкости будут, как нельзя кстати. Масштабируемые процессоры Intel Xeon серии Granite Rapid имеют 12-канальную подсистему памяти, поддерживающую по два модуля на канал. Используя модули MCRDIMM Micron емкостью 256 ГБ, серверы на базе Granite Rapid могут получить до 3 ТБ оперативной памяти стандарта DDR5, используя 12 слотов, и 6 ТБ, используя 24 слота.