Мне жаль это говорить, но я бы солгал, если бы сказал обратное. NPU бесполезны. Возможно, это прозвучит резко, но это не от цинизма. Протестировав их лично, я искренне убежден, что сейчас для NPU нет ни одного убедительного применения.
Когда вы пойдете покупать свой следующий ноутбук, велика вероятность того, что в нем будет установлен блок нейронной обработки (NPU), а AMD и Intel наперебой рассказывают о том, что эти NPU станут движущей силой будущего ПК с искусственным интеллектом. Я не сомневаюсь, что в конечном итоге мы к этому придем, но с точки зрения современного использования NPU действительно не так эффективен, как вы думаете.
Рассказывая о Meteor Lake на CES 2024, Intel объяснила, что для работы с искусственным интеллектом используются различные процессоры в чипах Meteor Lake. Не вся работа ложится на NPU. На самом деле, наиболее требовательные рабочие нагрузки ИИ перекладываются на интегрированный графический процессор Arc. NPU в основном используется как вариант с низким энергопотреблением для стабильных, низкоинтенсивных нагрузок ИИ, таких как размытие фона.
Для более интенсивных задач на помощь приходит графический процессор. Например, Intel продемонстрировала демонстрацию в Audacity, где искусственный интеллект мог выделить аудиодорожки из одного стереофайла и даже расшифровать текст песни. Также Intel продемонстрировала работу искусственного интеллекта в Unreal Engine с программой Metahuman, превращающей видеозапись в анимацию реалистичного игрового персонажа. Обе программы работали на GPU.
Это отличные примеры использования ИИ. Им просто не нужен NPU. Выделенный процессор для ИИ не настолько мощный, как GPU, для таких интенсивных рабочих нагрузок ИИ.
По словам Intel, главное преимущество NPU - его эффективность, поэтому он должен сократить время автономной работы при выполнении стабильных и малоинтенсивных нагрузок ИИ, таких как размытие фона, а не GPU. Я проверил это на MSI Studio 16 с одним из новых процессоров Intel Meteor Lake, и это не такая уж большая экономия энергии, как можно было бы ожидать.
За 30 минут GPU потреблял в среднем 18,9 Вт, а NPU - 17,6 Вт. Интересно, что вначале графический процессор потреблял очень много энергии, где-то до 38 Вт от общей мощности системы на кристалле, но затем этот показатель постепенно снижался. NPU, напротив, начал с низкого уровня и постепенно повышал его, в итоге установившись между 16 и 17 Вт.
Следует отметить, что речь идет о суммарной мощности - другими словами, о мощности всего чипа, а не только GPU или NPU. NPU более эффективен, но я не знаю, насколько эта эффективность важна в этих низкоинтенсивных рабочих нагрузках ИИ. Вероятно, в реальных условиях это не сэкономит вам время автономной работы.
Мне придется подождать, чтобы проверить время автономной работы, когда я проведу больше времени с одним из этих ноутбуков Meteor Lake, но я не думаю, что это будет иметь большое значение. Даже лучшие ноутбуки с Windows имеют довольно посредственное время автономной работы по сравнению с конкурентами от Apple, и я сомневаюсь, что NPU достаточно, чтобы изменить эту динамику.
Это не должно отвлекать от интересных приложений с искусственным интеллектом, которые мы начинаем видеть на ПК. От Audacity до пакета Adobe и Stable Diffusion в GIMP - существует масса способов использовать искусственный интеллект. Однако большинство из этих приложений работает либо в облаке, либо на GPU, а выделенный NPU не делает ничего особенного, кроме размытия фона.
По мере того как NPU будут становиться все более мощными, а приложения с искусственным интеллектом - все более эффективными, я не сомневаюсь, что NPU найдут свое место. И вполне логично, что AMD и Intel закладывают основу для того, чтобы это произошло в будущем. Однако в настоящее время основное внимание в вопросах производительности ИИ уделяется GPU, а не эффективному процессору ИИ, обрабатывающему ваши видеозвонки.
Если тебе понравилась статья - подпишись на канал, чтобы не пропустить ещё много полезных статей!