На текущей неделе Microsoft анонсировала разработку двух новых чипов собственного производства, предназначенных для обработки искусственного интеллекта и общих вычислительных нагрузок в облачной платформе Azure. Это объявление официально подтверждает слухи о проекте под кодовым названием "Project Athena", который представляет собой чип на базе архитектуры Arm и призван снизить зависимость Microsoft от оборудования от других поставщиков, в особенности от компании Nvidia.
Первый из созданных чипов получил имя Microsoft Azure Maia 100 AI Accelerator и стал результатом работы по проекту Athena. Он предназначен для эффективной работы с огромными языковыми моделями, такими как GPT-3.5 Turbo и GPT-4. Чип, изготовленный на основе 5-нм техпроцесса TSMC и содержащий более 105 миллиардов транзисторов, поддерживает различные типы данных MX, включая 8-разрядные форматы, что значительно ускоряет процесс обучения моделей и время вывода результатов.
Для сравнения, на суперчипе Nvidia H100 AI Superchip установлено 80 миллиардов транзисторов, а у AMD на Instinct MI300X их количество достигает 153 миллиардов транзисторов. Однако на данный момент не проводились непосредственные сравнения производительности ускорителя искусственного интеллекта Maia 100 с уже используемыми чипами в области искусственного интеллекта. Известно только то, что каждое вычислительное устройство Maia 100 обладает совокупной пропускной способностью 4,8 терабит в секунду благодаря пользовательскому сетевому протоколу на базе Ethernet, что обеспечивает улучшенное масштабирование и производительность.
Техногигант разработал чип Maia 100 в тесном сотрудничестве с OpenAI. Обе компании работали вместе по совершенствованию архитектуры и тестированию GPT-моделей. Это позволит Microsoft оптимизировать работу искусственного интеллекта в облачной платформе Azure, а OpenAI сможет обучать новые модели, которые будут более эффективными и доступными, чем существующие на данный момент.
Второй представленный на конференции Ignite чип - Cobalt 100 CPU - является 64-разрядным 128-ядерным процессором на базе архитектуры Arm Neoverse Compute Subsystems. Он позволяет увеличить производительность для общих вычислительных задач в Azure на 40 процентов по сравнению с оборудованием текущего поколения, используемым на коммерческих серверах на базе Arm. Серверы, работающие на основе Cobalt 100, будут использоваться для поддержки различных сервисов, включая Microsoft Teams и Windows 365. Особо важным фактором является также экономический аспект. В случае ускорителя искусственного интеллекта Maia 100 Microsoft разработала новое решение для жидкостного охлаждения и новую конструкцию стойки, которая обеспечивает большую плотность размещения силовых и сетевых кабелей. Все же, использование нового чипа все равно существенно дешевле, чем применение специализированного оборудования от Nvidia или AMD.