75 подписчиков
Qualcomm заходят на рынок ПК
Пока NVIDIA с анонсом новой архитектуры Blackwell продолжает углубляться в корпоративный AI сегмент (хотя ещё не все получили свои H100, заказанные больше года назад), а новые чипы от AMD 8000G-серии со встроенным NPU для нейронок даже никто не тестит на ютубе, Qualcomm выходит в свет с процессором Snapdragon X Elite. Полные спецификации можно почитать тут.
Это 12 ядерный ARM проц для Windows, заточенный на работу с AI и отличной энергоэфективностью (возможно получим живучесть в районе 10-12 часов на ноутах). Нейропроцессор (NPU) имеет производительность 45 TOPS, что почти в 3 раза больше, чем у Apple M3 (18 TOPS).
На видео можно глянуть сравнение в бенчах (посолить всё же стоит). Пишут, что камень может гонять 13B модели на 30 токенов/сек. Это конечно хорошо, но у M3 огромный размер оперативки в 128 ГБ, в которой можно запустить монструозных размеров нейронки, а у X Elite написано максимум 64 ГБ, хотя это тоже не мало.
Любопытно узнать как оно может показать себя в распределёнке. Возможно гонка за GPU скоро пойдёт на спад и будет достаточно просто CPU.
Релиз Snapdragon X Elite в середине 2024.
Около минуты
27 марта 2024