Новые отчеты свидетельствуют о значительном росте поставок ускорителей Nvidia H100, которые широко используются в области искусственного интеллекта. Вместо обычного срока доставки от 8 до 11 месяцев, сроки сократились до всего лишь 3-4 месяцев. В результате этого часть компаний начала избавляться от запасов процессоров H100 объемом 80 ГБ, которые они ранее закупили. Теперь легче арендовать эти процессоры у крупных корпораций, к примеру Amazon Web Services, Google Cloud и Microsoft Azure. Невзирая на это, компании, разрабатывающие собственные модели с большим объемом данных, все еще ощущают сложности с поставками.
Согласно информации, некоторые компании перепродают имеющиеся запасы H100 или уменьшают заказы из-за высокой стоимости обслуживания невостребованных. В 2023 году приобретение чипов Nvidia Hopper было серьезной проблемой, однако сейчас происходит значительный сдвиг. Несмотря на ускорение поставок, спрос на чипы с искусственным интеллектом по-прежнему превышает предложение.
Упрощение аренды ускорителей Nvidia H100 со стороны поставщиков облачных услуг также способствует сокращению дефицита процессоров для искусственного интеллекта. Например, AWS предложила новую услугу, которая позволяет клиентам планировать аренду адаптеров на более короткие сроки, что решает проблемы с доступностью и расположением чипов. В результате спрос и время ожидания чипов с искусственным интеллектом значительно сократились.
Увеличенная доступность чипов Nvidia с искусственным интеллектом также отразилось на поведении покупателей. Компании становятся экономичнее и более избирательными в своих покупках или аренде, они ищут кластеры ускорителей меньшего размера и сосредотачиваются на экономической эффективности своего бизнеса.