Стартап Tenstorrent, который несколько лет назад объявил о том, что создаёт первую в мире архитектуру динамического искусственного интеллекта, представил свой новый продукт — процессор Wormhole AI.
Wormhole AI интересны тем, что они основаны на архитектуре RISC-V и предлагают совершенно новый уровень масштабируемости. Это не потребительские решения, а процессоры для искусственного интеллекта.
Они выпускаются не сами по себе, а в виде уже готовых адаптеров: Wormhole n150 и Wormhole n300. Wormhole n150 поставляется с одним процессором, который имеет 72 ядра Tensix. По данным Tenstorrent, каждое ядро Tensix имеет пять ядер RISC-V baby, то есть суммарно 360 таких ядер.
Адаптер имеет 12 ГБ памяти GDDR6 с пропускной способностью 288 ГБ/с и характеризуется TDP 160 Вт. Устройство обеспечивает 262 TFLOPS производительности в режиме FP8.
Wormhole n300 представляет собой решение сразу с двумя такими процессорами и вдвое большим объёмом памяти.
Такие адаптеры можно объединять в кластеры посредством шины Ethernet. К примеру, представленная рабочая станция TT-QuietBox оснащена процессором AMD Epyc и четырьмя адаптерами Wormhole n300 AI, то есть восемью процессорами, то есть суммарно речь о 2880 ядрах.
Что ещё важно, так это цена. Wormhole n150 и n300 оценены в 1000 и 1400 долларов соответственно, что феноменально дешевле, чем то, что предлагают конкуренты на рынке. Действительно, разница в производительности по сравнению с такими продуктами, как графические процессоры NVIDIA H100 AI, довольно существенна, но, учитывая, что чипы AI доступны по цене почти в десять раз меньшей, это меняет ситуацию.