Многие аналитики полагают, что 2024 год станет для NVIDIA настоящим испытанием на прочность, а в 2025 американской компании придётся смириться с присутствием на рынке конкурентов.
Очевидно, что Дженсен Хуанг знает о предстоящих изменениях лучше любых экспертов, о чём глава NVIDIA долго и обстоятельно говорил в новом интервью. По его словам, компания чувствует себя уверенно и не ждёт никаких сюрпризов. Похоже, дядюшка Хуанг немного лукавил, ведь спустя какое-то время он заявил, что конкуренты всё же есть, но шансов у неназванных соперников всё равно нет. Якобы, высокопроизводительные графические чипы NVIDIA настолько хороши, что клиенты не станут брать продукцию конкурентов даже бесплатно. Здесь зрители должны были бы напомнить Дженсену Хуангу, что купить H100 дешевле 50 тысяч долларов практически невозможно, тогда как спекулянты часто предлагают подобные продукты с двойной переплатой.
Глава NVIDIA категорически не согласился со слухами, намекающими на нечестную конкуренцию со стороны его компании, но на эту тему был немногословен.
Судя по интервью, рынок так сильно проникся продукцией зелёного лагеря, что не хочет даже думать о чём-то другом. А вот аналитики и даже сами потенциальные клиенты так не считают. Многие ждут массового появления в продаже Instinct MI300X от AMD, называя данный графический чип лучшим на рынке. По производительности данный продукт обходит H100 в большинстве тестов, при этом имеет преимущество в количестве памяти и пропускной способности. При масштабировании разрыв увеличивается, а значит система из сотен Instinct MI300X окажется способна сократить время обучения ИИ с 3-5 месяцев до 4-6 недель. А ведь видеокарта AMD ещё и дешевле, что делает её максимально привлекательной, не говоря уже о высокой доступности, поскольку заказы с H100 могут идти до полугода.
Как оказалось, это не все сюрпризы, которые ждут NVIDIA в 2024 году. Сегодня в сети появились тесты нового графического чипа Intel Gaudi 2, который продемонстрировал внушительные результаты.
Давайте остановимся на модели Stability Diffusion 3, которая занимается преобразованием изображения в текст. Выяснилось, что при использовании 32 графических ускорителей NVIDIA и Intel, синие справляются с задачей до 56% быстрее. Есть целый ряд допущений и условий, но в целом победа всегда остаётся за Gaudi 2. Эксперты поясняют, что всё дело в объёме памяти данного графического чипа. За счёт 96 Гб HBM Gaudi 2 при тестировании сразу 512 пакетов справился с задачей более чем в 2 раза лучше конкурента, поскольку смог обрабатывать 1254 пакета в секунду. После того как количество графических чипов было увеличено до 256 единиц, разрыв между конкурентами стал ещё более явным, что повторяет тесты с Instinct MI300X.
Очевидно, что продукты с большим количеством видеопамяти имеют преимущество, ну а H100 здесь самый экономный ускоритель. До появления конкурирующих продуктов сравнивать было буквально не с чем, ну а результаты Gaudi 2 и Instinct MI300X заставят задуматься о смене бренда прежде всего крупные компании, занимающиеся созданием алгоритмов на основе ИИ.
По итогам теста стало также ясно, что продукция Intel в настоящее время не выйдет на рынок и задержится до второй половины 2024 года. Всё дело в том, что решение NVIDIA по-прежнему выходит на первое место в рамках вывода за счёт оптимизации Tensor-RT. Что любопытно, даже A100 (флагман зелёных прошлого поколения) в данной области обходит Gaudi 2 на целых 40%.
Аналитики полагают, что за счёт дополнительной оптимизации синие смогут решить данную проблему, но время играет за Дженсена Хуанга. Всё дело в том, что уже совсем скоро H100 ждёт замена в лице нового графического чипа серии Blackwell. Речь идёт о новой архитектуре с переходом на 3-нм технологический процесс. Благодаря этому ожидается 2-кратное повышение быстродействия, а значит NVIDIA нужно продержаться относительно недолго. Если к этому времени продукты конкурентов всё же смогут выйти на рынок, предложив высокую производительность, отличную масштабируемость и разумную стоимость, то Дженсену Хуангу придётся туго. В случае, если Instinct MI300X так и останется выставочным, а Лиза Су не сможет выпустить его на рынок в больших партиях, то временное окно для противостояния с NVIDIA для AMD и Intel закроется ещё на несколько лет.
Добавим, что добиться значительного прорыва без определённых компромиссов флагману Blackwell не удастся. Дженсен Хуанг заявил, что графический чип получил систему жидкостного охлаждения, ну а это ещё одна причина для покупателей, вынуждающая обратить внимание на продукцию конкурентов. Действующие системы на приспособлены для СЖО, а переоборудование может занять время и обойдётся в дополнительные расходы.