⚡️Google представила чипы для обучения и вывода результатов работы ИИ, нанеся очередной удар по Nvidia

⚡️Google представила чипы для обучения и вывода результатов работы ИИ, нанеся очередной удар по Nvidia

Google #GOOG и Amazon #AMZN разрабатывают собственные чипы для ИИ: один для запуска моделей, другой для их обучения, конкурируя с Nvidia. Новый чип Google имеет большой объем статической оперативной памяти, как и предстоящий продукт Nvidia. Google, после многолетних исследований в области разработки чипов, способных обучать модели искусственного интеллекта и выполнять задачи вывода информации, представила восьмое поколение тензорных процессоров (TPU). Эти изменения направлены на то, чтобы бросить вызов лидеру в сфере ИИ, компании Nvidia.

В своем блоге Амин Вахдат, старший вице-президент Google и главный технолог по ИИ и инфраструктуре, объяснил, что с появлением агентов искусственного интеллекта возникла потребность в специализированных чипах, которые бы индивидуально подходили для обучения и обслуживания. В марте компания Nvidia анонсировала свои разработки, которые позволят моделям ИИ быстро отвечать на вопросы пользователей, благодаря технологиям, приобретенным у стартапа Groq в рамках сделки на 20 миллиардов долларов. Google, являясь крупным клиентом Nvidia, предлагает TPU в качестве альтернативы для компаний, использующих облачные сервисы Nvidia.

Многие ведущие технологические компании, включая Apple и Microsoft, уже много лет разрабатывают специализированные полупроводниковые решения для ИИ. В январе компания Meta (признана в РФ экстремистской и запрещена) объявила о сотрудничестве с Broadcom для создания нескольких версий процессоров ИИ. Google одной из первых начала использовать собственные процессоры для запуска моделей ИИ в 2015 году и стала сдавать их в аренду облачным клиентам в 2018 году. Amazon Web Services также анонсировала свой чип Inferentia в 2018 году и представила процессор Trainium для обучения моделей ИИ в 2020 году.

Аналитики DA Davidson оценили бизнес TPU Google в сочетании с группой Google DeepMind AI в 900 миллиардов долларов.

Хотя ни один из технологических гигантов не пытается вытеснить Nvidia, Google не сравнивает производительность своих новых чипов с чипами лидера в области ИИ. Компания заявила, что обучающий чип обеспечивает в 2,8 раза большую производительность по сравнению с TPU Ironwood седьмого поколения, при той же цене. Производительность процессора для вывода результатов у нового чипа на 80% выше Ironwood.

Nvidia также анонсировала свой будущий процессор Groq 3 LPU, который будет использовать большие объемы статической оперативной памяти (SRAM), применяемой в компании Cerebras, производителе чипов для ИИ, подавшем заявку на первичное размещение акций в начале года. Новый чип для инференции от Google, TPU 8i, также использует SRAM, причем каждый чип содержит 384 мегабайта SRAM, что в три раза больше, чем Ironwood.

Архитектура TPU 8i разработана для обеспечения высокой пропускной способности и низкой задержки, необходимых для одновременной и экономически эффективной работы миллионов агентов, как отметил Сундар Пичаи, генеральный директор Alphabet, материнской компании Google, в своем блоге.

Внедрение чипов Google для ИИ набирает обороты. Компания Citadel Securities разработала программное обеспечение для количественных исследований, использующее TPU Google, а все 17 национальных лабораторий Министерства энергетики США используют программное обеспечение для совместной работы ученых в области ИИ, созданное на основе этих чипов. Компания Anthropic обязалась использовать TPU Google мощностью в несколько гигаватт.