Компания Micron Technology объявила о начале тестирования первой в отрасли 8-гигабайтной памяти HBM3 Gen2. Это новое решение для работы с памятью обеспечивает емкость 24 ГБ, пропускную способность более 1,2 ТБ/с и скорость ввода-вывода более 9,2 Гб/с. По сравнению с существующими вариантами HBM3, HBM3 Gen2 от Micron обеспечивает повышение производительности на 50%. Это устанавливает новые стандарты производительности, емкости и энергоэффективности в центрах обработки данных с искусственным интеллектом.
HBM3 Gen2 от Micron построен на их усовершенствованном технологическом узле 1β DRAM, позволяющем собрать матрицу объемом 24 ГБ DRAM в куб высотой 8 дюймов в рамках стандартного размера упаковки. Кроме того, Micron планирует представить 12-битный стек емкостью 36 ГБ в первом квартале 2024 года. Это обеспечивает на 50% более высокую производительность по сравнению с конкурирующими решениями при той же высоте штабеля.
Улучшенная производительность на ватт и скорость вывода памяти Micron HBM3 Gen2 имеют решающее значение для удовлетворения потребностей в мощности современных центров обработки данных с искусственным интеллектом. Компания Micron добивается такого повышения энергоэффективности за счет различных усовершенствований, таких как удвоение количества сквозных кремниевых переходов (TSV) по сравнению с конкурентами, снижение теплового сопротивления и внедрение энергоэффективной конструкции канала передачи данных.
Micron сотрудничает с TSMC в качестве партнера по альянсу 3DFabric, обеспечивая плавную интеграцию памяти HBM3 Gen2 в вычислительные системы искусственного интеллекта и HPC. В настоящее время TSMC оценивает и тестирует образцы Micron HBM3 Gen2, поддерживая инновации в приложениях HPC следующего поколения.
Решение Micron HBM3 Gen2 удовлетворяет растущим требованиям генеративного искусственного интеллекта к крупномасштабным моделям искусственного интеллекта. Благодаря емкости 24 ГБ на куб и скорости ввода-вывода, превышающей 9,2 Гб / с, это значительно сокращает время обучения для больших языковых моделей, таких как GPT-4, что приводит к снижению общей стоимости владения. Решение также позволяет более эффективно использовать обученные модели, увеличивая объем ежедневных запросов.
Лучшая в своем классе производительность на ватт памяти Micron HBM3 Gen2 обеспечивает существенную экономию средств для центров обработки данных с искусственным интеллектом. Например, при установке 10 миллионов графических процессоров каждые пять ватт экономии электроэнергии на куб HBM могут привести к экономии эксплуатационных расходов в размере до 550 миллионов долларов в течение пяти лет.
Технология Micron HBM3 Gen2 разработана для облегчения интеграции с платформами клиентов. Он оснащен полностью программируемой памятью, встроенной в систему самотестирования (MBIST), которая может работать на полной скорости вывода, что улучшает возможности тестирования и сокращает время вывода на рынок.
Сотрудничество между Micron и NVIDIA направлено на использование высокой пропускной способности и энергоэффективности HBM3 Gen2 для улучшения инноваций в области искусственного интеллекта и ускорения вычислений.
Таким образом, память Micron HBM3 Gen2 обеспечивает значительное повышение производительности, емкости и энергоэффективности центров обработки данных с искусственным интеллектом, удовлетворяя потребности генерирующего искусственного интеллекта и высокопроизводительных вычислительных приложений.
