NVIDIA анонсировала новый графический процессор H200 Hopper, который теперь оснащен самой быстрой в мире памятью HBM3e от Micron. В дополнение к новым платформам искусственного интеллекта NVIDIA также объявила о крупной победе в области суперкомпьютеров со своими суперчипами Grace Hopper, которые теперь используются в суперкомпьютере Exaflop Jupiter.
Графические процессоры NVIDIA H100 на данный момент являются наиболее востребованными чипами искусственного интеллекта в отрасли, но компания хочет предложить своим клиентам еще большую производительность. HGX H200 - новейшая высокопроизводительная вычислительная платформа для искусственного интеллекта на базе графических процессоров H200 Tensor Core. Эти графические процессоры оснащены новейшими оптимизациями Hopper как для аппаратного, так и для программного обеспечения, а также представляют собой самое быстрое в мире решение для хранения данных на сегодняшний день.
Графические процессоры NVIDIA H200 оснащены памятью Micron HBM3e объемом до 141 ГБ и пропускной способностью до 4,8 ТБ/с, что в 2,4 раза выше пропускной способности и вдвое больше емкости по сравнению с NVIDIA A100. Использование нового типа памяти позволяет NVIDIA почти вдвое повысить производительность вывода ИИ по сравнению с графическими процессорами H100 в таких приложениях, как Llama 2. Недавние достижения в пакете TensorRT-LLM также привели к огромному увеличению производительности в значительном количестве приложений для искусственного интеллекта.
Графические процессоры NVIDIA H200 будут доступны в широком спектре серверов HGX H200 с 4- и 8-процессорными конфигурациями. 8-процессорная конфигурация графических процессоров H200 в системе HGX обеспечит до 32 петафлопс вычислительной производительности FP8 и 1,1 ТБ объема памяти.
Графические процессоры также будут совместимы с существующими системами HGX H100, что облегчит клиентам гибкую модернизацию своих платформ. Партнеры NVIDIA, такие как ASUS, ASRock Rack, Dell, Eviden, GIGABYTE, Hewlett Packard Enterprise, Ingrasys, Lenovo, QCT, Wiwynn, Supermicro и Wistron, предложат обновленные решения, когда графические процессоры H200 станут доступны во втором квартале 2024 года.
Помимо анонса графического процессора H200, NVIDIA также объявила о крупной победе в области суперкомпьютеров на базе суперчипов Grace Hopper (GH200). Суперкомпьютер, известный как Jupiter, будет расположен на объекте Forschungszentrum Jülich в Германии в рамках совместного предприятия EuroHPC и заключен контракт с Eviden и ParTec. Суперкомпьютер будет использоваться для материаловедения, исследования климата, разработки лекарств и многого другого. Это уже второй суперкомпьютер, анонсированный NVIDIA в ноябре, а предыдущим был Isambard-AI, предлагающий производительность до 21 эксафлопс.
Суперкомпьютер Jupiter основан на BullSequana XH3000 от Eviden, в котором используется архитектура полностью с жидкостным охлаждением. Он может похвастаться в общей сложности 24000 суперчипами NVIDIA GH200 Grace Hopper, которые соединены между собой с помощью Quantum-2 Infiniband. Учитывая, что каждый процессор Grace содержит 288 ядер Neoverse, можно ожидать почти 7 миллионов ядер только со стороны процессора. Производительность компьютера составляет 90 экзафлопс при работе ИИ и 1 эксафлоп в высокопроизводительных вычислениях. Ожидается, что суперкомпьютер будет установлен в 2024 году.
