В рамках Intel Architecture Day компания в очередной раз обновила своё видение иерархии памяти в серверных системах. К промежуточному слою в виде Optane DCPMM мы уже привыкли, замене HDD на ёмкие и дешёвые SSD с QLC NAND не удивляемся, а к появлению Rambo Cache начали готовить ещё в прошлом году.
Теперь вместо привычного стека из кеша CPU, RAM и SSD/HDD c LTO где-то на периферии в представлении Intel структура памяти включает аж 7 слоёв:
- Кеш CPU (SRAM): порядка сотни/сотен мегабайт и задержка на уровне 1 нс;
- Набортная память (Rambo Cache, HBM): единицы гигабайт, ~ 10 нс;
- Оперативная память (DRAM): десятки гигабайт, < 100 нс;
- Память SCM (Optane DCPMM): сотни гигабайт, < 1 мкс;
- Быстрое первичное хранилище (Optane SSD): единицы терабайт, < 10 мкс;
- Вторичное хранилище (QLC NAND SSD): десятки терабайт, < 100 мкс;
- Третичное хранилище (HDD): десятки терабайт, < 10 мс.
Начнём с «нижнего этажа». О том, что компания не станет выпускать 128-слойную флеш-память NAND, а сразу займётся 144-слойной QLC, стало известно ещё в прошлом году. Летом Intel напомнила о своём решении, сообщив, что массовый выпуск будет начат во втором полугодии 2020 года, а первые продукты должны появиться к концу года. Массовый перевод основных серий SSD на новый тип памяти состоится в первой половине 2021-го.
Несмотря на то, что формально новый тип памяти по характеристикам будет хуже предыдущих поколений, она тоже выиграет от перехода на PCIe 4.0 — переход к новым форм-факторам EDSFF, U.3 и другим даст возможность задействовать больше каналов, а рост плотности увеличит ёмкость накопителей. Так что они действительно смогут полностью вытеснить HDD в ряде сценариев использования.
Память 3D XPoint следующего поколения перейдёт с двухслойной компоновки на четырёхслойную, что приведёт к увеличению плотности и скорости работы. Первыми её получат NVMe-накопители Alder Stream. Новая память в сочетании с новым же контроллером PCIe 4.0 даст удвоение пропускной способности накопителей, миллионы IOPS и стабильно низкую задержку. Отдельно отмечается, что новая память оптимизирована для случайных мелкоблочных операций. Любопытно, что производиться новая 3D XPoint будет всё так же на заводах Micron и лишь потом закупаться Intel.
А вот модули Optane DCMM (или PMem) новую память, судя по всему, пока не получат. Анонсированные несколько месяцев назад «плашки» 200-ой серии под кодовым именем Barlow Pass по сравнению с первым поколением стали примерно на четверть быстрее, но остались в рамках прежнего теплопакета. Они ориентированы на работу с Intel Xeon Cooper Lake, их поддержку получат и грядущие Ice Lake-SP. Обе серии процессоров работают с DDR4, так что им, видимо, достаточно и текущих решений. А вот будущим Sapphire Rapids в связи с переездом на DDR5 уже точно понадобятся новые модули Optane: и SSD, и DCPMM.
Наконец, ещё один «кирпичик» в иерархии памяти — это Rambo Cache. Напомним, что он, в частности, будет использоваться в составе шины-фабрики Xe Memory Fabric с поддержкой когерентности, которая будет объединять CPU, GPU и другие ускорители в единое целое. Rambo Cache будет мостиком между непосредственно вычислительными блоками и набортной памятью ускорителей.
Все эти новые уровни иерархии нужны потому, что разрыв в плотности и производительности уже имеющихся слоёв хранения слишком велик, поэтому приходится закрывать эти «дыры» между ними. Это, в свою очередь, ускорит обработку данных и упростит масштабирование. Если, конечно, правильно распределять данные между всеми этими слоями.