Интервью: Ядра, которые нужны агентам. Кеворк Кечикян из Intel сомневается в необходимости новых ЦП Arm для ИИ-агентов, противопоставляя им разработки Intel. — theregister.com
Интервью В последние недели такие компании, как Nvidia и Arm, представили процессоры, специально разработанные для запуска ИИ-агентов, например OpenClaw.
Кеворк Кечикян, руководитель группы центров обработки данных Intel и до прошлого лета исполнительный вице-президент команды по разработке решений Arm, не уверен, что этот «новый» тип ЦП действительно нужен гиперскейлерам или предприятиям.
Его комментарии прозвучали всего через несколько дней после того, как Arm представила свою полную архитектуру процессора — чип под названием AGI CPU, который она позиционирует как процессор для агентного ИИ. Неделей ранее Nvidia продемонстрировала собственную агентную вычислительную платформу на базе своих внутренних процессоров Vera.
После того как годами в заголовках доминировали ГП и ускорители ИИ, ЦП снова оказались в центре внимания, поскольку эти агентные фреймворки, инструменты, вызовы API и фрагменты кода, сгенерированные ИИ, должны на чем-то выполняться, и это не ГП.
Выступая на мероприятии Arm Everywhere в Сан-Франциско на прошлой неделе, вице-президент Arm по облачному ИИ Мохамед Авад заявил, что существующие процессоры x86 не были разработаны для запуска агентов, а их форсированные режимы, одновременная многопоточность (SMT), специализированные ускорители и другие устаревшие функции, которые работают для современных рабочих нагрузок, лишь занимают площадь кристалла и увеличивают энергопотребление.
«Когда вы увеличиваете частоту, что еще вы увеличиваете? Мощность. Это проблема. Эти форсированные режимы неустойчивы в течение длительного времени. Они неустойчивы в пределах чипа», — утверждал Авад.
Естественно, Arm утверждает, что ее 300-ваттный чип со 136 ядрами позволяет избежать этих проблем.
«Мы не поддерживаем Lotus Notes, мы просто этого не делаем», — сказал Авад, по-видимому, ссылаясь на реальный режим x86. «Мы сосредоточены исключительно на том, что нужно агентному центру обработки данных: производительность, масштабируемость и эффективность».
Ядра, которые Arm использует в AGI, также удивительно бедны функциями «одна инструкция, множество данных» (SIMD) по сравнению с расширениями AVX, присутствующими в современных серверных процессорах x86. Чип Arm оснащен парой 128-битных векторных блоков по сравнению с 512-битными векторами, поддерживаемыми большинством серверных чипов Intel и AMD.
Авад всячески старался представить отсутствие SMT, которое вы можете знать как Hyper-Threading, в чипе как преимущество, а не как недостаток.
«Что происходит, когда вы используете многопоточность? Вы направляете две задачи на одно и то же ядро, вот как они достигают высокого количества потоков», — сказал он. «Реальность такова, что ваши ввод-вывод и пропускная способность не удваиваются, поэтому вы просто переместили узкое место в другое место».
SMT — это отлично, если он у вас есть, а если нет — это ужасно
Имеют ли значение для производительности агентов те точки оптимизации, которые были выделены в анонсе AGI CPU от Arm, Intel Кечикян пока судить не берется.
В одном моменте он видит логику — в отношении SIMD.
«Если посмотреть на рабочие нагрузки, то это в основном традиционные операции перемещения данных; оркестровка», — сказал он. «Это одна из областей, где отсутствие мощных SIMD-движков является хорошим моментом».
Он также признает, что в современных ЦП, как Arm, так и x86, есть функции, которые не обязательно нужны для агентных фреймворков. Однако он утверждает, что многие ускорители, разработанные Intel за последние несколько лет, остаются актуальными — например, QuickAssist, предназначенный для ускорения задач сжатия, декомпрессии и криптографии.
Кечикян также не убежден доводами Arm против SMT. «В то время как Рене говорила о не-SMT и оптимизации, неделей ранее Дженсен показал другой ЦП, в котором есть SMT».
Процессоры Vera от Nvidia оснащены 88 собственными ядрами Olympus на базе Arm, которые включают то, что гигант графических процессоров называет «пространственной многопоточностью». Как объясняет Nvidia, эта технология по сути делит ресурсы каждого ядра пополам, а не использует разделение по времени, как любой другой чип x86 с SMT.
«Мое мнение таково: если бы у них была возможность, они бы ее добавили», — сказал Кечикян о AGI CPU от Arm. «У них нет такой возможности, и ни одно из ядер Arm не имеет SMT».
Тем не менее, важно понимать, что некоторые рабочие нагрузки всегда получали от SMT больше преимуществ, чем другие. Есть причина, по которой IBM до сих пор поставляет новые процессоры Power с четырьмя или даже восемью потоками на ядро.
Но из-за этого Intel и AMD давно сделали SMT легко включаемым или отключаемым в настройках BIOS, по крайней мере, для тех моделей, которые в принципе поддерживают несколько потоков на ядро.
По логике Arm, у Intel уже есть агентный ЦП
Наряду со своими Xeon P-ядрами Granite Rapids, Intel также имеет процессоры Sierra Forest и Clearwater Forest, которые оснащены множеством ее сверхэффективных ядер.
Clearwater Forest, в частности, имеет много общих черт с AGI CPU от Arm. Он оснащен 288 урезанными ядрами с минимальными расширениями SIMD и 12 каналами быстрой памяти DDR5.
«У него есть плотность, у него высокое количество ядер, и у него также отсутствует SMT», — сказал Кечикян.
На вопрос о сходстве между продуктом Arm и Intel Clearwater Forest Авад утверждал, что эти компоненты на самом деле разработаны для максимизации плотности вычислений, ссылаясь на пропускную способность памяти на ядро и ставя под сомнение относительную производительность энергоэффективных ядер Intel.
Хотя верно, что 136-ядерные компоненты Arm обеспечивают пропускную способность памяти 6 ГБ/с на ядро, это в значительной степени связано с соотношением вычислений и памяти. Фактически, для рабочих нагрузок, ограниченных памятью, таких как вычислительная гидродинамика, часто отдают предпочтение компонентам с меньшим количеством ядер и большими кэшами.
Меньшее количество ядер, подключенных к одной и той же подсистеме памяти, обычно, но не всегда, означает более высокую пропускную способность на ядро.
По сравнению с самыми мощными версиями Clearwater Forest от Intel, ЦП Arm предлагает более чем вдвое большую пропускную способность на ядро.
У нас еще нет полного списка SKU Xeon 6+, но Кечикян сообщает нам, что этот компонент будет предлагаться в конфигурациях от 288 ядер на верхнем пределе до чуть более 100 на нижнем. В сценарии 136 ядер против 136 ядер преимущество Arm, вероятно, будет значительно меньше.
Несмотря на то, что он соответствует многим тем же требованиям, что и AGI CPU от Arm, Кечикян сообщает, что Chipzilla не видит большого спроса на Xeon 6+ в агентных сценариях использования. Вместо этого нам говорят, что чип наиболее популярен в сетевых приложениях, таких как обработка пакетов.
Кечикян не исключает возможности того, что спрос на агентные рабочие нагрузки появится со временем. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tobias Mann