SK Hynix объявила о разработке первых в отрасли 12-слойных чипов памяти HBM3 емкостью 24 ГБ, которые обеспечивают как высокую плотность, так и исключительную пропускную способность в 819 ГБ/с. Чипы 12-Hi HBM3 имеют ту же высоту, что и существующие 8-слойные чипы HBM3 компании, что означает простоту их распространения.
Кристалл HBM3 KGSD емкостью 24 ГБ от SK Hynix включает двенадцать слоев памяти емкостью 16 ГБ, подключенных с помощью сквозных кремниевых переходов (TSV) с 1024-битным интерфейсом. Устройство имеет скорость передачи данных 6400 МТ/с, поэтому весь модуль HBM3 объемом 24 ГБ обеспечивает пропускную способность 819,2 ГБ/с.
В зависимости от фактической подсистемы памяти такие модули могут обеспечить пропускную способность от 3,2 ТБ/с до 4,915 ТБ/с для 96 ГБ памяти по 4096-битному или 144 ГБ памяти по 6140-битному интерфейсу соответственно. Чтобы представить указанные значения, можно сказать, что Nvidia H100 NVL, являющаяся самой продвинутой на сегодняшний день реализацией памяти HBM3, имеет 96 ГБ памяти с пропускной способностью 3,9 ТБ/с для каждого из двух своих вычислительных графических процессоров GH100.
Укладка 12 слоев HBM DRAM друг на друга является сложной задачей по нескольким причинам. Во-первых, трудно реализовать 60000 или более TSV, чтобы соединить все двенадцать слоев. Во-вторых, 12-Hi HBM DRAM пакеты физически не могут быть выше 8-Hi HBM KGSD, поэтому будет крайне сложно, если вообще возможно, установить такие HBM3 KGSD рядом с процессором или графическим процессором, имеющим фиксированную высоту. С этой целью производителям DRAM, таким как SK Hynix, необходимо либо уменьшить толщину отдельного слоя DRAM без ущерба для производительности, либо уменьшить зазор между слоями, а также сжать базовый слой.
SK Hynix говорит, что для создания своего продукта 12-Hi HBM3 той же высоты, что и его устройство 8Hi HBM3, компания использовала технологию инкапсуляции Advanced Mass Reflow Molded Underfill (MR-MUF), которая включает в себя присоединение чипа Mass Reflow (MR) для сжатия базового слоя и формованного нижнего заполнения (MUF) для уменьшения расстояния между ними.
SK Hynix уже поставила первые образцы HBM3 емкостью 24 ГБ нескольким клиентам, которые с этого давно ждали. Новинка в настоящее время проходит оценку производительности и должна быть запущена в массовое производство во второй половине года.
