Процессоры Core Ultra 7 155H (28 Вт) и Ryzen 7 7840U (15 Вт) были протестированы в LM Studio с использованием LLAMA 2 и Mistral. Процессор Ryzen превосходит своего конкурента Core Ultra на 79 % в LLAMA v2 Chat, обеспечивая при этом производительность на 41 % выше в Mistral Instruct 7B (время до получения первого токена).
Ryzen 7 7840U имеет преимущество в пропускной способности до 17% и 14% по сравнению с Core Ultra 7 в Mistral и LLAMA v2 соответственно. Это преимущество зафиксировано при почти половине TDP модели Meteor Lake.
При различных методах квантования производительность TTFT процессора Ryzen на 30–50 % выше, чем у Core Ultra 7 155H.
Эффективная производительность (токены в секунду) приводит к меньшему дефициту возможностей двух процессоров. Ryzen 7 7840U до 19% быстрее, чем Core Ultra 7 155H, с аналогичной производительностью на моделях с более высоким квантованием (равным Q8).
Mistral 7B мало чем отличается. TTFT на процессоре Ryzen 7040 на 16–30 % быстрее, с меньшим дефицитом производительности квантования.
Подобно LLMA 2, Mistral 7B заметно быстрее на 7840U на моделях с более низким квантованием (от Q6 до Q2), предлагая при этом аналогичную производительность с Core Ultra 7 на Q8.
Вывод из этих тестов заключается в том, что AMD предлагает производительность искусственного интеллекта с ускорением NPU, намного опережая Intel, и делает это с заметно более высокой энергоэффективностью. Линейка Ryzen 8040 (даже несмотря на обновление) должна еще больше расширить преимущество ИИ над предложением Intel Core Ultra.