Хотя процессоры NVIDIA традиционно называются "графическими", компания уже давно выделила отдельные линейки для ускорения вычислений и работы с графикой. Использование памяти HBM стало характерной особенностью продукции NVIDIA. В случае с текущими ускорителями, южнокорейская компания SK hynix была единственным поставщиком памяти HBM3, так как ее продукция лучше всего соответствовала требованиям NVIDIA.
В настоящее время микросхемы HBM3 и HBM3e размещаются на одной подложке с графическим процессором, и память может содержать до 12 слоев. Как сообщает Tom's Hardware со ссылкой на южнокорейские СМИ, NVIDIA и SK hynix уже разрабатывают технологию интеграции микросхемы памяти HBM4 непосредственно на кристалл графического процессора. Это позволит значительно увеличить скорость обмена информацией, но потребует особых требований к производству и охлаждению компонентов.
Вероятно, SK hynix передаст свои микросхемы HBM4 компании TSMC, которая будет производить как графические процессоры NVIDIA, так и микросхемы HBM4. Затем эти кристаллы будут соединены без промежуточной подложки. Эта технология напоминает производство процессоров AMD Ryzen с памятью 3D V-Cache, которая также интегрируется непосредственно на кристалл с ядрами. HBM4 память будет немного медленнее, но будет иметь большую емкость по сравнению с использованной AMD кеш-памятью. HBM4 память будет иметь ширину шины памяти 2048 бит, что делает ненужным использование промежуточной подложки.
Охлаждение такой конструкции представляет собой значительную проблему, поскольку как графические процессоры, так и микросхемы HBM4 генерируют много тепла, и оба компонента будут располагаться друг на друге. Однако в серверном сегменте используются продвинутые методы охлаждения, такие как жидкостное охлаждение или погружение в диэлектрическую жидкость, что оправдывает экономическую целесообразность и сложность такого подхода. Возможно, микросхемы HBM4 и связанные с ними графические процессоры будут производиться по схожим или близким технологическим процессам. Таким образом, требования к производственному процессу станут практически идентичными для обоих компонентов, и для логической части ускорителей, и для памяти.