Недавнее предложение Micron Technology в области оперативной памяти – разработка в сотрудничестве с Intel модулей памяти для решения задач в центрах обработки данных (ЦОД), требующих больших её объёмов (искусственный интеллект (ИИ), высокопроизводительные вычисления (HPC)).
На совместном с Intel брифинге Micron представила свою мультиплексную память (MRDIMM), которая, по заявлению компании, уже тестируется. Вице-президент и гендиректор Micron’s Compute Products Group, Правин Вайдьянатан утверждает, что первое поколение MRDIMM позволит пользователям обеспечивать всё возрастающую рабочую нагрузку, используя широкий диапазон модулей от 32гб до 256гб в стандартном и “высоком” (TFF) форм-факторах, подходящих для высокопроизводительных серверов 1U и 2U, а также совместимых с процессорами Intel Xeon 6.
В сотрудничестве с Intel компания Micron представила мультиплексный модуль памяти (MRDIMM) емкостью от 32 ГБ до 256 ГБ в стандартном и высоком форм-факторах (TFF), позволяющий пользователям запускать все более требовательные приложения с ИИ и HPC. (Источник: Micron)
По словам Вайдьянатана, для приложений, требующих более 128гб памяти на слот, MRDIMM превзойдёт нынешнюю TSV RDIMM благодаря лучшему термодизайну TFF, то снижает температуру модулей на 20° при тех же энергопотреблении и обдуве, чем достигается более эффективное охлаждение в дата-центре.
Он также добавил, что сотрудничество Micron с Intel включало разработку и тестирование, а сама разработка MRDIMM была обусловлена потребностями пользователей при переходе на Intel Xeon 6. Последнее десятилетие производительность вычислений росла за счёт увеличения числа ядер, а также сохранения и увеличения пропускной способности на ядро, сказал Вайдьянатан. MRDIMM – это попытка Micron предотвратить спад пропускной способности.
Модуль MRDIMM предназначен для работы в дата-центрах с процессорами Intel Xeon 6, выпускающимися с июня 2024 года. (Источник: Intel)
Пропускная способность на ядро снижается
По сравнению с RDIMM, MRDIMM увеличивает эффективную пропускную способность памяти на 39% и уменьшает задержку на 40%, улучшая на 15% эффективность шины. “Если вам нужна быстрая память, связанная с ЦПУ, вашим выбором станет MRDIMM”.
Также он сказал, что значение задержки и скорости отклика памяти критичны в современных приложениях для дата-центров, и технология MRDIMM наиболее эффективна при масштабировании объёма и пропускной способности памяти. По его словам, HPC-технологии особенно “жадны” по отношению к памяти, и, хотя сегодня обучение наиболее стимулирует рост “генерирующих ИИ”, алгоритмы вывода будут масштабироваться значительно быстрее. «Многие подсистемы будут в основном сосредоточены на выводе».
Возросший спрос на объём и пропускную способность памяти, заметил Вайдьянатан, делают электропитание и термодизайн ещё более критичными, учитывая то, что дата-центры всё больше внимания уделяют энергопотреблению и устойчивости.
Мэтт Лэнгман, вице-президент и генменеджер Intel, сказал, что компания видит возможность ускорить не только адресацию и пропускную способность систем, но и общую стоимость и устойчивость. Только энергопотребление и эффективность важны при обеспечении рабочих нагрузок, добавил он.
Хотя “генерирующий ИИ” и является ключевым вариантом использования дата-центров, именно отличное от “генерирующего ИИ” использование ЦОД составляет большинство и увеличивается, отметил Лэнгман. Вне зависимости от области применения, сказал он, MRDIMM могут помочь увеличить производительность и уменьшить стоимость при развёртывании «облаков», включая виртуализацию и многопользовательские среды. “Отзывчивость” системы стала ключевым показателем стоимости владения, утверждает он.
Также критична простота развёртывания, добавил Лэнгман, отметив, что новые технологии часто влекут за собой дополнительную работу по проверке успешности их масштабирования.
MRDIMM соответствует стандартам
На брифинге Micron и Intel подтвердили, что продукт будет соответствовать отраслевым стандартам. Это обеспечит физическую и электрическую совместимость с DDR5 при масштабируемости объёма и пропускной способности памяти для будущих систем. “Если вы хотите, чтобы всё было просто для будущих покупателей, то используйте тот же физический и программный интерфейс, что и DDR5. И он действительно неотличим ни с точки зрения пользователя, ни с точки зрения системы”, — сказал Лэнгман.
Пока сообщество JEDEC (Joint Electron Device Engineering Council) разрабатывало основные детали будущего стандарта DDR5 MRDIMM, Intel и Micron опередили их. Что, как они думают, позволит превзойти скорость передачи данных по сравнению с DDR5 RDIMM. Другие функции, запланированные стандартом JEDEC MRDIMM, будут включать совместимость с RDIMM для возможности гибкой конфигурации системы конечным пользователем, использование компонентами стандарта DDR5 DIMM и его технологий (таких, как DRAM, SPD, PMIC и TS для совместимости).
Также стандарт JEDEC MRDIMM будет включать эффективное масштабирование ввода-вывода посредством использования логики RCD/DB, использовать существующую LRDIMM-экосистему для разработки и теста инфраструктур, а также включит поддержку DDR5-EOL нескольких поколений.
JEDEC заявила также о планах поддержки “высокого” (TFF) форм-фактора MRDIMM, чтобы обеспечить максимальную ёмкость и пропускную способность, не меняя метод упаковки DRAM.
Помимо поддержки JEDEC, новый продукт сотрудничества между Micron и Intel поддерживает технологию гипермасштабирования, утверждает главный аналитик Objective Analysis Джим Хэнди. “Тот факт, что за этим стоят Google и Azure, а, возможно, и другие компании, указывает на то, что есть клиенты, которые только и ждут, когда это произойдет”.
Он добавил, что именно поддержка конечных пользователей будет иметь решающее значение, отметив, что AMD “тоже в деле”, занимая вместе с Intel большую часть рынка серверных процессоров.
Избежать судьбы Optane
Не впервые Intel и Micron объединяются, чтобы создать новую “память”. Но, в отличие от 3D XPoint, которая так и не создала новый прибыльный сегмент в иерархии памяти и накопителей, технология MRDIMM от Micron имеет преимущество в решении проблем дата-центров.
Проблема технологии 3D XPoint была в том, что Intel широко рекламировала именно твердотельные накопители Optane SSD и модули DIMM. При этом требовалось многое поменять, чтобы получить преимущества технологии Optane, сказал Джим Хэнди. “Вам нужно было бы полностью изменить способ работы программного обеспечения”.
И хотя такие ведущие поставщики, как Oracle и SAP, создали версии своих программ с использованием преимуществ Optane, большинство разработчиков не увидело смысла во внесении серьёзных изменений в своё ПО, заметил Хэнди.
По его словам, лишь производителям процессоров и памяти придётся что-то менять, а для поставщиков памяти, только выходящих на рынок, это возможность первое время предлагать высокорентабельный продукт.
MRDIMM похож на сотрудничество Intel с SK Hynix в отношении “MCR DIMM”, что является примером того, как два поставщика пытаются навязать стандарт, говорит Хэнди. “У вас есть два способа добиться почти одного и того же. И, вероятно, один из них будет успешнее другого”.
