Micron начала поставки новых модулей памяти SOCAMM2 объёмом 256 ГБ — это на 33% больше по сравнению с предыдущими решениями на 192 ГБ, а энергопотребление при этом снизилось на 66% относительно стандартных RDIMM. Такой рывок в плотности и энергоэффективности открывает дверь для конфигураций серверов с двумя терабайтами оперативной памяти на один процессор, что критично для современных задач искусственного интеллекта.
Ещё по теме:
Внимание индустрии к ускорителям ИИ часто затмевает важность памяти — именно объём ОЗУ и её близость к xPU снижают задержки и время отклика систем. Micron в новых SOCAMM2 использует 32-гигабитные монолитные LPDDR5X-чипы, в которых память и управляющая логика интегрированы в один кристалл. Это даёт прежнему форм-фактору Nvidia SOCAMM2 не только большую ёмкость, но и позволяет держать модули в допустимых температурных пределах даже при повышенной плотности.
⚡Подписывайтесь на канал itzine и канал подкаста ForGeeks в Telegram! Там самые свежие новости про технологии, гаджеты и космос.
Расширение объёма памяти до 256 ГБ на модуль напрямую влияет на возможности ИИ-моделей обрабатывать большие контексты без необходимости переключаться на медленные хранилища. Это сокращает показатель TTFT — «время до первого токена», то есть скорость, с которой модель отвечает, что критично для интерактивных ботов и сложных вычислительных задач.
👉 Читайте также наши материалы на itzine.ru
Формат SOCAMM был разработан Nvidia в сотрудничестве с Micron, Samsung и SK hynix для создания энергоэффективной памяти, способной работать с охладителями на жидкостной основе — трендом в современных дата-центрах ИИ. Первая версия SOCAMM испытывала сложности с перегревом, и совместная работа инженеров Nvidia и ведущих производителей памяти привела к появлению SOCAMM2 с меньшим энергопотреблением и большей плотностью.
Этот прогресс означает, что крупные облачные провайдеры и разработчики ИИ получат серьёзный инструмент для расширения масштабов своих моделей без компромиссов по скорости. В условиях гонки за производительность, где каждый гигабайт памяти рядом с процессором влияет на результат, Micron упрочняет свои позиции среди основных поставщиков серверной оперативной памяти.
Источник: Micron представила первые модули SOCAMM2 на 256 ГБ — 2 ТБ ОЗУ на процессор теперь реальны