Компания Tachyum готовит к выпуску высокопроизводительную систему, ориентированную на решение задач в сфере искусственного интеллекта. Ожидается, что она значительно ускорит обработку массивных ИИ-моделей с миллиардами, и даже триллионами, параметров.
Платформа основана на базе упрощенной версии универсального процессора Tachyum Prodigy. Новый чип несет на борту 96 ядер и работает на частоте 5,7 ГГц. Использование лишь половины от полного кристалла позволяет снизить суммарное энергопотребление, а также сократить затраты на производство, тем самым предложив более доступную и конкурентную стоимость.
1 ТБ оперативной памяти набран восемью 64-гигабайтными модулями DDR5-6400 с общей пропускной способностью в 819,2 ГБ/с. На материнской плате распаяны три разъема PCI-E 5.0 x16, три слота M.2 2280 PCI-E 5.0 x4, SATA-порты, USB, HDMI, Ethernet и прочие, характерные для современных систем.
Благодаря архитектурным особенностям CPU, он способен обрабатывать ИИ-модели гораздо эффективнее присутствующих на рынке решений. Если в обычных условиях 1 трлн параметров при использовании плавающих чисел с 8-битной точностью занимают в ОЗУ 2,04 ТБ, то Tachyum на это требуется всего 765 ГБ.
Утверждается, что при взаимодействии с моделью ChatGPT4 с 1,7 трлн параметров готовый ПК от Tachyum может заменить собой 52 ускорителя вычислений NVIDIA H100, предлагая при этом также гораздо более низкое энергопотребление и стоимость в $5000. Ожидается, что массовое производство новинки может быть запущено уже в конце этого года.