Amazon анонсировала два своих новых процессора, которые будут использоваться исключительно подразделением Amazon Web Service (AWS). Две новые системы на чипе — это процессор Graviton 4 для рабочих нагрузок общего назначения и процессор Trainium 2 для обучения искусственному интеллекту. Новые устройства будут использоваться в экземплярах AWS, которые обеспечат клиентам Amazon производительность суперкомпьютерного класса.
Graviton 4 от Amazon представляет собой процессор общего назначения 4-го поколения, конкурирующий с процессорами AMD EPYC и Intel Xeon, использует 64-битную архитектуру Arm и содержит 96 ядер. Сообщается, что процессор демонстрирует до 30% более высокую вычислительную производительность и увеличение пропускной способности памяти на 75% по сравнению с предшественником Graviton3. AWS не раскрыла, использует ли в своем Graviton 4 ядра Neoverse V2 от Arm, но это вполне вероятно.
Как и AWS Graviton 3, AWS Graviton 4 основан на многочиповой конструкции, состоящей из семи ячеек. Учитывая, что AWS сотрудничала с Intel Foundry Services, то это было ожидаемо.
Graviton 4 будет включен в оптимизированные для памяти инстансы EC2 R8g, предназначенные для ресурсоемких баз данных, кэшей в памяти и крупномасштабного анализа данных. Эти новые экземпляры R8g будут предоставлять в три раза больше виртуальных ЦП и в три раза больше памяти по сравнению с существующими экземплярами R7g. В результате клиенты AWS смогут обрабатывать больше данных, более эффективно расширять свои проекты и ускорять скорость обработки. В настоящее время экземпляры R8g, оснащенные Graviton 4, доступны для тестирования, и ожидается, что они поступят в продажу в ближайшие несколько месяцев.
«В рамках процесса миграции из облака SAP HANA на Amazon EC2 на базе AWS Graviton мы уже добились повышения производительности на 35 % для аналитических рабочих нагрузок. В ближайшие месяцы мы с нетерпением ждем проверки Graviton4 и преимуществ, которые он может принести нашим общим клиентам», — сказал Юрген Мюллер, технический директор и член исполнительного совета SAP SE.
В дополнение к процессору AWS Graviton 4 для рабочих нагрузок общего назначения Amazon также представила свою новую систему Trainium 2 для обучения искусственному интеллекту, которая будет конкурировать с графическими процессорами Nvidia H100, H200 и B100I. Trainium 2 разработан для обеспечения скорости обучения в четыре раза выше и с утроенным объемом памяти по сравнению с оригинальными чипами Trainium, что является значительным достижением. Кроме того Trainium 2 улучшил энергоэффективность, достигнув вдвое большей производительности на ватт. Системы на базе Trainium 2 будут подключаться с помощью адаптера AWS Elastic Fabric (EFA), который обеспечивает производительность петабитного масштаба.
Что особенно впечатляет в Trainium 2, так это то, что он будет доступен в системах, которые могут включать до 100000 чипов Trainium2 и обеспечивать вычислительную мощность до 65 AI ExaFLOPS, что позволяет пользователям получать доступ к производительности, сравнимой с производительностью суперкомпьютеров. Такие возможности масштабирования означают, что обучение большой языковой модели с 300 миллиардами параметров, которое раньше занимало месяцы, теперь можно выполнить всего за несколько недель.
С точки зрения дизайна AWS Trainium 2 также использует многоячеистую конструкцию, включающую два вычислительных чиплета, четыре чипа памяти HBM и два неизвестных чиплета, которые, вероятно, обеспечивают высокоскоростное соединение.
