Meteor Lake NPU и роль графических процессоров в вычислениях ИИ
В сфере передовых технологий непрекращающиеся разговоры об искусственном интеллекте (ИИ) достигли апогея, причем Intel и производители ПК согласовывают свое послание с гигантами индустрии AMD и Qualcomm. Концепция "ПК с искусственным интеллектом" стала современной мантрой, напоминающей ажиотаж вокруг "метавселенной" несколько лет назад. Руководители компаний и инвесторы, стремящиеся использовать ИИ для повышения продаж и роста котировок акций, обратили свое внимание на NPU (блоки нейронной обработки), встроенные в такие чипы, как Core Ultra от Intel, Ryzen 8000 серии от AMD и Snapdragon X Elite от Qualcomm.
Однако под этими рассуждениями об ИИ скрывается реальность: интегрированные NPU в нынешние чипы Core Ultra, в частности в архитектуру Meteor Lake, а на горизонте маячит Lunar Lake, не оказывают решающего влияния на вычисления ИИ, как это предполагается. В отличие от акцента, сделанного на NPU, более традиционные вычислительные мощности, в частности CPU и, что еще более важно, GPU, играют более существенную роль в задачах, связанных с ИИ.
Бенчмаркинг производительности ИИ оказывается сложной задачей, учитывая многогранную природу ИИ, включающую в себя задачи от генерации изображений с помощью Stable Diffusion до крупноязычных моделей (LLM), воплощенных в таких чат-ботах, как Microsoft Copilot и Google Bard. Мириады переменных в LLM, включая фреймворки, модели и квантование, усложняют задачу выявления явного победителя в вычислениях ИИ.
🚀 Присоединяйтесь к Telegram каналу "proTechTalk"! 👇 Здесь предоставляются краткие обзоры новых материалов с Дзен-канала, а так же с сайта proTechTalk.ru, и помогая вам экономить время, оставаясь в курсе последних событий в мире технологий! Не упустите возможность быть в центре современных компьютерных трендов – подпишитесь прямо сейчас! 👇✨
Чтобы пролить свет на нюансы динамики, было проведено исследование конкретного вклада CPU, GPU и NPU в вычисления ИИ в чипе Core Ultra от Intel, Meteor Lake. В центре внимания оказался бенчмарк UL Procyon AI inferencing - инструмент, предназначенный для оценки эффективности процессора при работе с различными большими языковыми моделями.
Тест проводился на базе Core Ultra 7 165H, установленного в ноутбуке MSI, который был предоставлен во время мероприятия Intel по бенчмаркингу на выставке CES 2024. Бенчмарк Procyon выявил показатели производительности CPU, GPU и NPU в задачах ИИ и показал достойные внимания результаты:
- Procyon (OpenVINO) NPU: 356
- Procyon (OpenVINO) GPU: 552
- Procyon (OpenVINO) CPU: 196
Эти цифры проливают свет на важные моменты. Несмотря на то что NPU продемонстрировал заметное влияние, опередив CPU по производительности на 82 %, GPU стал главным игроком, показав производительность ИИ на 182 % выше, чем CPU, и опередив NPU на 55 %.
По сути, вывод очевиден: для тех, кто ставит во главу угла возможности ИИ, инвестиции в надежную видеокарту или GPU имеют первостепенное значение. Более того, откровение о том, что приложения ИИ могут эффективно работать на CPU или GPU, исключая необходимость в специальном логическом блоке ИИ, добавляет к этой истории еще один уровень сложности. Эффективность, о которой говорит Intel в NPU, означает длительное время автономной работы, особенно в таких сценариях, как длительные звонки в Microsoft Teams, где ИИ отфильтровывает фоновый шум.
Хотя приложения для искусственного интеллекта, такие как Stable Diffusion, изначально использовали мощность GPU для локальной генерации художественных произведений ИИ, с развитием ландшафта эти приложения стали адаптироваться к менее мощным конфигурациям, даже полагаясь в основном на CPU. Это перекликается со знакомой фразой из игрового мира: игры с интенсивным использованием графики могут работать медленно на интегрированном оборудовании, но тем не менее они работают. Аналогично, ИИ LLM и чат-боты, работающие на GPU, демонстрируют более высокую производительность, а облачные решения обеспечивают более быструю реакцию.
На фоне эволюции области ИИ интригует тот факт, что приложение UL Procyon на момент написания статьи признает наличие CPU и GPU в Ryzen 7040 от AMD с поддержкой ИИ, но упускает из виду NPU. Эта оплошность подчеркивает начальную стадию развития ИИ, когда даже фундаментальные возможности чипов не распознаются приложениями, предназначенными для их использования.
Вопреки сложившемуся мнению, NPU не является обязательным условием для запуска ИИ на ПК, особенно для пользователей, уже имеющих игровые ноутбуки или настольные компьютеры. Хотя NPU от таких лидеров индустрии, как AMD, Intel и Qualcomm, обладают желаемыми характеристиками, они не являются незаменимыми.
Забегая вперед, отметим, что обещание Intel о трехкратном увеличении производительности NPU в предстоящем чипе Lunar Lake, выход которого намечен на конец года, открывает возможность смены парадигмы. Траектория развития производительности NPU в различных чипах для ПК может в конечном итоге изменить баланс, сделав их вклад в производительность ИИ непропорционально значительным. В качестве альтернативы, группа стартапов в области чипов-ускорителей ИИ вынашивает амбиции стать 3Dfx's в мире ИИ, обеспечивая непрерывные инновации.
На заре 2024 года становится очевидным, что новые ПК с искусственным интеллектом и их NPU имеют большое значение, хотя и сдерживаемое осознанием того, что интерес потребителей может не совпадать с рвением, проявляемым чипмейкерами. Для взыскательных пользователей, заинтересованных в возможностях ИИ, важно понимать, что NPU - это лишь одна из граней комплексного решения, а GPU играет ключевую роль в формировании современного алгоритма ИИ.
⚡ Больше новостей с выставки CES 2024 читайте на сайте: 👇
PS: Уважаемые читатели не забывайте ставить лайки если статья Вам понравилась, это помогает развитию канала. Заранее спасибо!
⚡⚡⚡ Друзья! Если вам нравится то, что я делаю, и вы хотите, чтобы это продолжалось, приглашаю поддержать меня и внести свой посильный вклад. Вместе мы сила! Спасибо за вашу поддержку! ⚡⚡⚡