На конференции IEDM 2024 компания NVIDIA продемонстрировала свои амбициозные планы по созданию ускорителей искусственного интеллекта нового поколения. Основной акцент сделан на использовании кремниевой фотоники и вертикального стекирования GPU, что может существенно повысить производительность вычислительных систем.
Кремниевая фотоника (SiPh) рассматривается как жизнеспособная альтернатива традиционным электрическим соединениям. Этот подход позволяет значительно увеличить пропускную способность и снизить задержки, что критично для работы с большими объемами данных. NVIDIA планирует интегрировать до 12 SiPh в своих чипах, оптимизируя межчиповые и внутричиповые связи. Это должно улучшить поток данных между отдельными плитками GPU, что важно для масштабируемости.
Интересно, что 3D-стекинг, который NVIDIA называет «GPU-уровнем», подразумевает вертикальное размещение нескольких плиток GPU для увеличения плотности. Такой подход позволяет уменьшить занимаемую площадь и задержки, связанные с межсоединениями. Кроме того, планируется также 3D-стекинг чипов DRAM, что добавит еще больше возможностей для повышения производительности.
Однако реализация этих технологий сталкивается с определенными трудностями. Кремниевая фотоника все еще находится на начальной стадии развития, и массовое производство может занять время. Кроме того, агрессивное укладывание чипов создаст проблемы с тепловыми эффектами, требуя внедрения эффективных решений для охлаждения. Аналитики предполагают, что полная интеграция этих технологий может произойти не ранее 2028-2030 годов, учитывая все сложности, связанные с их внедрением.