Согласно репортажу Financial Times, компания Amazon разрабатывает чипы для работы искусственного интеллекта, чтобы снизить зависимость от Nvidia. Компания уже создала ряд собственных процессоров для работы с нагрузками в центрах обработки данных. Новые разработки стали частью инвестиций в стартап по проектированию чипов, сделанных в 2015 году. Ожидается, что Amazon раскроет больше информации о своих процессорах для ИИ в следующем месяце в рамках анонсов чипов Trainium.
Эти чипы были разработаны лабораториями Annapurna Labs, принадлежащими Amazon, и их использует конкурент OpenAI — компания Anthropic. Anthropic является основным партнёром Amazon в сфере ИИ и предоставляет гиганту электронной коммерции и облачных вычислений доступ к базовой модели Claude для ИИ.
Эта новость стала очередной, указывающей на стремление представителей технологической отрасли снизить зависимость от Nvidia в области мощных процессоров для искусственного интеллекта. Графические процессоры Nvidia являются лидерами на рынке и лучшими для выполнения ИИ-задач. Высокий спрос и ограниченное предложение делают их одними из самых востребованных и дорогих продуктов в мире.
Для Amazon разработка собственных чипов ИИ — попытка уменьшить зависимость от продукции Nvidia и сократить расходы, сообщает Financial Times. У компании есть опыт в разработке кастомных чипов. Благодаря приобретению стартапа Annapurna, занимающегося проектированием чипов, Amazon может стабильно выпускать процессоры, снижая затраты на использование продукции AMD и Intel для традиционных рабочих нагрузок в центрах обработки данных.
Эти чипы, называемые Graviton, дополнены кастомными ИИ-процессорами Amazon Trainium. Trainium разработан для работы с большими языковыми моделями, а в ноябре 2023 года Amazon представила Trainium2.
Компания Annapurna также возглавляет усилия по разработке чипов, которые помогут Amazon снизить зависимость от графических процессоров Nvidia. В статье мало информации о данных чипах, но предполагается, что Amazon может представить их на следующем мероприятии, посвящённом Trainium2. Хотя Trainium2 был выпущен в 2023 году, ограничения в поставках не позволили ему распространиться широко. FT сообщает, что партнёр Amazon в сфере ИИ, компания Anthropic, использует Trainium2.
Чипы Amazon разрабатываются с использованием технологий тайваньской компании Alchip и производятся на мощностях TSMC. В прошлом году Amazon сообщила, что более 50 000 клиентов AWS использовали её чипы Graviton.
Вместе с Amazon другие крупные технологические компании, включая материнскую компанию Google — Alphabet и владельца Facebook — Meta*, также занимаются разработкой собственных чипов для ИИ. Ведущие компании, такие как Apple, используют чипы Google, а Meta представила свой второй ускоритель обучения и вывода (MTIA) ранее в этом году. Оба этих решения также уменьшают зависимость от графических процессоров Nvidia. OpenAI, поддерживаемая Microsoft, также рассматривает возможность разработки собственных чипов.
Google представила свой последний чип для ИИ — процессор Trillium — в этом месяце. По заявлению компании, эти чипы обеспечивают в четыре раза более быструю производительность при обучении ИИ и в три раза более быструю обработку выводов по сравнению с предыдущими версиями.
* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности»