AMD поделилась некоторыми сведениями о своей "потребительской производительности искусственного интеллекта", показав противостояние между AMD Ryzen 7 7840U (15 Вт) и Intel Core Ultra 7 155H (28 Вт). В тестах производительности выбранной модели большого языка (LLM) с использованием Llama 2 и Mistral Instruct 7B. Решение AMD намного быстрее, потребляет меньше энергии и доступно дешевле.
Для тестовых сравнений AMD установила LM Studio на конкурирующие по цене ноутбуки – задача, которая, по ее словам, занимает всего несколько минут. Llama 2 - это ультрасовременный LLM от Meta, а Mistral Instruct 7B - LLM с 7,3 миллиардами параметров, разработанный бывшими разработчиками Meta и DeepMind.
В качестве напоминания о свойствах новейших чипов Ryzen, которые адаптируются к локальному ускорению искусственного интеллекта, AMD заявляет, что три типа ядер могут использоваться совместно: NPU, RDNA 3 GPU и Zen 4 CPU. В демонстрации исполнительный директор AMD сказал, что ускорение AVX512 и VNNI, встроенное в процессорные ядра Zen 4, привело к выигрышным результатам, которые можно видеть на графиках.
AMD ранее опубликовала блог о том, как запустить LM Studio и различные LLM на вашем локальном компьютере. В руководстве рассказывается о том, как начать работу либо с "AMD Ryzen AI PC", либо с ПК с установленным графическим процессором Radeon RX 7000 или новее.
Intel хорошо осведомлена о относительно незначительной производительности искусственного интеллекта, обеспечиваемой семейством Meteor Lake. Культовый производитель процессоров уже официально сообщил, что Arrow Lake и Lunar Lake будут иметь в три раза большую производительность искусственного интеллекта для GPU и NPU. Процессоры Intel для ноутбуков и настольных компьютеров следующего поколения должны появиться позже в этом году.