Nvidia планирует использовать 3D-стек GPU и фотонику для ускорения ИИ-чипов будущего

На конференции IEDM 2024 Nvidia представила свое видение будущего вычислений для искусственного интеллекта: ИИ-ускорители с вертикально стекованными GPU и использованием кремниевой фотоники. Эта инновационная концепция, как отмечает доктор Иэн Катресс, может значительно улучшить производительность и энергоэффективность таких систем.

Согласно представленному Nvidia изображению, будущий ИИ-ускоритель будет состоять из нескольких слоев:

• Подложка
• Интегрированная кремниевая фотоника
• GPU, распределенные по уровням
• 3D-стек DRAM
• Система охлаждения (холодная пластина)

Кремниевая фотоника позволяет передавать данные с использованием света, что быстрее и энергоэффективнее традиционных электрических соединений. Эта технология предназначена для горизонтальных связей между ускорителями, обеспечивая высокую пропускную способность.

Вертикальная стековка осуществляется с использованием технологии TSV (Through-Silicon Via), создающей электрические соединения между слоями. TSV уже применяется, например, в процессорах AMD Ryzen с 3D-стековым кэшем. Однако в случае Nvidia речь идет о стековке "логика на логику", что более сложный и менее распространенный подход.

Каждый "уровень" GPU состоит из четырех графических блоков, которые также соединены между собой с использованием фотоники. Сверху размещается 3D-стек DRAM, что повышает производительность, но добавляет сложности в охлаждение системы.

Хотя технология кремниевой фотоники находится на начальной стадии, Nvidia считает ее перспективной для высокопроизводительных систем. Однако для потребительских решений, таких как игровые GPU, такие нововведения пока неактуальны, так как не требуют высокой пропускной способности, как ИИ-обработка.

Эксперты, включая Катресса, предполагают, что внедрение таких технологий в ИИ-ускорители станет возможным не ранее 2028-2030 годов. Однако менее дорогие аспекты, такие как TSV-стековка, могут найти применение и в потребительских продуктах.

Комментарии на сайте