Найти тему

AMD Instinct: ИИ-монстр с 288 ГБ памяти!

Оглавление
(C) AMD
(C) AMD

Компания AMD представила революционные ускорители искусственного интеллекта Instinct MI325X и MI355X, которые обещают полностью изменить ландшафт высокопроизводительных вычислений. Оснащенные огромным объемом памяти HBM3e и новейшими архитектурами, эти ускорители предлагают беспрецедентную производительность, открывая новые горизонты для исследований в области искусственного интеллекта.

Instinct MI325X: 256 ГБ памяти и впечатляющая производительность

(C) AMD
(C) AMD

Анонсированный ускоритель MI325X оснащен 256 ГБ памяти HBM3e, что позволяет ему обрабатывать огромные объемы данных с невероятной скоростью. Архитектура CDNA 3 обеспечивает до 2,6 PFLOPs вычислительной мощности для FP8 и 1,3 PFLOPs для FP16, что делает его идеальным инструментом для самых требовательных задач глубокого обучения.

(C) AMD
(C) AMD

AMD заявляет о существенном превосходстве MI325X над конкурентами, демонстрируя до 40% прирост производительности в сравнении с NVIDIA H200 в некоторых рабочих нагрузках.

(C) AMD
(C) AMD

Серверы, оснащенные несколькими ускорителями MI325X, способны обеспечить еще более впечатляющие результаты, предлагая терабайты памяти и десятки петафлопс вычислительной мощности.

MI355X: будущее уже здесь

(C) AMD
(C) AMD

В следующем году AMD планирует выпустить еще более мощный ускоритель MI355X. Основанный на новейшей архитектуре CDNA 4 и изготовленный по 3-нм техпроцессу, MI355X будет оснащен 288 ГБ памяти HBM3e и предложит значительное увеличение производительности по сравнению с предшественником.

(C) AMD
(C) AMD

Ключевые особенности MI355X:

  • Огромный объем памяти: 288 ГБ HBM3e для обработки самых больших моделей ИИ.
  • Новая архитектура CDNA 4: Обеспечивает существенный прирост производительности и энергоэффективности.
  • Поддержка новых форматов данных: FP4 и FP6 для еще большей точности вычислений.
  • Высокая пропускная способность памяти: До 64 ТБ/с для ускорения передачи данных.

ROCm 6.2: совершенствование программного обеспечения

(C) AMD
(C) AMD

Параллельно с аппаратными улучшениями, AMD продолжает развивать программное обеспечение ROCm. Новая версия 6.2 обещает еще более высокую производительность в задачах обучения и вывода моделей ИИ.

Вывод

AMD демонстрирует впечатляющие результаты в области высокопроизводительных вычислений, предлагая мощные ускорители искусственного интеллекта, которые способны удовлетворить потребности самых требовательных исследователей и разработчиков. Instinct MI325X и MI355X устанавливают новые стандарты в отрасли и открывают новые возможности для развития искусственного интеллекта.

(C) FanTechno.com
(C) FanTechno.com

https://fantechno.com/amd-instinct-ai-monster-with-288-gb-of-memory/