Интересное событие для индустрии GPU: память, подключаемая к PCIe, изменит наше представление об объеме памяти и производительности GPU. Компания Panmnesia, поддерживаемая южнокорейским исследовательским институтом KAIST, работает над технологией под названием Compute Express Link, или CXL, которая позволяет графическим процессорам использовать внешние ресурсы памяти через интерфейс PCIe.
Традиционно GPU, такие как RTX 4060, ограничены встроенной VRAM, что может снижать производительность в задачах с большим объемом памяти, таких как обучение ИИ, анализ данных и игры с высоким разрешением. CXL использует высокоскоростное соединение PCIe для подключения внешних модулей памяти непосредственно к GPU.
Это модальное окно.
Начало диалогового окна. Escape отменяет и закрывает окно.
Конец диалогового окна.
Этот метод обеспечивает возможность расширения памяти с низкой задержкой, а показатели производительности демонстрируют значительный прирост по сравнению с традиционными методами. Согласно отчетам, новая технология позволяет достичь двузначной наносекундной задержки, что является существенным снижением по сравнению со стандартными решениями на базе SSD.
Более того, эта технология не ограничивается только традиционной оперативной памятью. Твердотельные накопители также можно использовать для расширения памяти GPU, предлагая универсальное и масштабируемое решение. Эта возможность позволяет создавать гибридные системы памяти, сочетающие скорость оперативной памяти и емкость твердотельных накопителей, что еще больше повышает производительность и эффективность.
Хотя CXL работает по каналу PCIe, интеграция этой технологии с графическими процессорами не так проста. В графических процессорах отсутствуют логическая ткань и подсистемы CXL, необходимые для поддержки конечных точек DRAM или SSD. Поэтому простое добавление контроллера CXL не представляется возможным.
Системы кэша и памяти GPU распознают расширения только через унифицированную виртуальную память (UVM). Однако тесты, проведенные Panmnesia, показали, что UVM имеет самую низкую производительность среди протестированных ядер GPU из-за накладных расходов на вмешательство во время выполнения хоста при ошибках страниц и неэффективной передачи данных на уровне страниц.
Для решения этой проблемы компания Panmnesia разработала ряд аппаратных уровней, поддерживающих все ключевые протоколы CXL, объединенных в единый контроллер. Этот корневой комплекс, соответствующий стандарту CXL 3.1, включает в себя несколько корневых портов для внешней памяти через PCIe и хост-мост с декодером памяти управляемого хостом устройства. Этот декодер подключается к системной шине GPU и управляет системной памятью, обеспечивая прямой доступ к расширенной памяти через инструкции загрузки/хранения, что позволяет эффективно устранить проблемы UVM.
Последствия применения этой технологии далеко идущие. Для ИИ и машинного обучения возможность увеличить объем памяти означает более эффективную работу с большими наборами данных, ускорить время обучения и повысить точность моделей. В играх разработчики могут расширять границы графической реалистичности и сложности, не ограничивая себя рамками VRAM.
Для центров обработки данных и облачных вычислений технология CXL от Panmnesia представляет собой экономически эффективный способ модернизации существующей инфраструктуры. Подключая дополнительную память через PCIe, центры обработки данных могут повысить свою вычислительную мощность, не прибегая к масштабной модернизации оборудования.
Несмотря на свой потенциал, Panmnesia сталкивается с большими трудностями в получении широкого распространения в индустрии. Лучшие видеокарты от AMD и Nvidia не поддерживают CLX и, возможно, никогда не будут поддерживать. Кроме того, велика вероятность того, что игроки отрасли разработают собственные технологии памяти для графических процессоров с подключением к PCIe. Тем не менее, инновация Panmnesia - это шаг вперед в решении проблемы узких мест в памяти GPU, способный оказать значительное влияние на высокопроизводительные вычисления и игры.
Если вам понравилась эта статья, подпишитесь на нее, чтобы не пропустить новые полезные статьи!
Вы также можете читать меня в:
- Telegram: https://t.me/gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru
