Сначала дефицит затронул GPU, затем память, а теперь и CPU из-за бума Агентного ИИ. Amazon и облачные провайдеры столкнулись с нехваткой центральных процессоров на фоне ажиотажного спроса. — wccftech.com
Сначала это были графические процессоры (GPU), затем память, а теперь дефицит затронул центральные процессоры (CPU) из-за бума Агентного ИИ (Agentic AI).
Amazon и облачные провайдеры исчерпали запасы CPU на фоне ажиотажного спроса на Агентный ИИ
Поскольку Агентный ИИ стремительно завоевывает технологические рынки, он становится проблемой для облачных провайдеров и производителей чипов, которые не успевают удовлетворить растущий спрос. Рынок еще не оправился от одного дефицита, а мы уже сталкиваемся с нехваткой нового технологического компонента — центральных процессоров.
По сообщению Дилана Пателя из Semianalysis, графические процессоры больше не являются сдерживающим фактором для облачных провайдеров; теперь эта роль перешла к CPU. Ранее GPU, используемые для задач ИИ, выполняли простые операции инференса, которые эволюционировали с появлением новых моделей.
Однако с резким ростом числа моделей и экспоненциальным увеличением потребностей Агентный ИИ теперь используется для обращения к базам данных, а также для выполнения задач, сильно зависящих от CPU, таких как Физика и Симуляция. Эти обращения к базам данных и более ресурсоемкие для CPU задачи привели к резкому увеличению использования центральных процессоров в облачных дата-центрах.
Хотя GPU сохраняли доминирующую роль в облачных серверах, обслуживающих потребности ИИ (например, 8 GPU на один CPU на стойку), этот разрыв теперь сокращается, и в серверах наблюдается схожее соотношение GPU и CPU.
Этот огромный спрос уже вызвал нестабильность в работе баз данных, таких как GitHub. Многие пользователи сообщают о перебоях в работе, и в большинстве случаев не удается зафиксировать изменения (commit).
Да, мы проверяли статистику GitHub по поводу того, как часто он недоступен, как часто сбоит при фиксации изменений, ну, вы понимаете. Это ужасно. И это потому, что Microsoft продала все свои запасные CPU другим, верно? Либо для внутреннего использования в своей лаборатории, но, на самом деле, скорее внешним лабораториям, которые заключают сделки с Entropic и OpenAI.И у них просто не осталось CPU, верно? И мы видели то же самое во многих других фирмах, верно? Раньше у вас было много GPU-серверов на один CPU-сервер. И вы могли бы сказать, что 100 мегаватт GPU обслуживались даже одним мегаваттом или меньше CPU. В наши дни соотношение становится намного, намного ближе, как для обучения с подкреплением (RL training), так и для инференса, агентного инференса. И тогда вы просто увидели, что у всех закончились CPU. Объемы Amazon по CPU.Дилан Патель (Semianalysis)
Причина этого, по сообщениям, заключается в том, что спрос на CPU настолько высок, что облачные провайдеры исчерпали все свои запасы. Дилан утверждает, что Amazon и Microsoft распродали весь свой запас CPU фирмам, занимающимся ИИ, таким как OpenAI и Entropic. Ситуация настолько плоха, что, несмотря на то, что Amazon утроила количество своих CPU-серверов по сравнению с прошлым годом, они исчерпали запасы и теперь не могут удовлетворить будущий спрос.
Более того, процессоры на архитектуре Arm пострадали сильнее из-за перехода OpenAI с x86 на Arm. Это произошло потому, что у Amazon было больше свободных ресурсов CPU до начала дефицита, а поскольку поставки x86 в прошлом были ниже, фирмы портировали свой код с x86 на Arm. Этот шаг теперь сильно ударил по ИИ-компаниям.
Итак, к чему это приведет технологический рынок? Ответ — огромный и неминуемый дефицит CPU. Дефицит облачных CPU приведет к тому, что другие поставщики увеличат свое производство для удовлетворения спроса.
Это не ограничится только чипами ARM, но и x86 тоже. AMD и Intel поставляют значительную часть своих чипов x86 облачным провайдерам, а NVIDIA также наращивает производство своих стоек с CPU Vera, состоящих из нескольких чипов и большого объема DRAM. Да, таким образом, поставки DRAM по-прежнему будут сильно ориентированы на ИИ, а теперь и CPU будут в значительной степени ориентированы на ИИ. Это означает, что производственные линии, предназначенные для потребительского и бизнес-сегментов, могут пострадать, поскольку приоритет отдается CPU для сегмента ИИ. Это означает, что поставки будут ограничены, цены будут высокими, и первыми чипы получат те, кто заплатит больше всего.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba