Tiny Corp. представляет собой стартап, который стремится демократизировать производительность класса петафлопс для искусственного интеллекта. Они разработали систему под названием Tinybox, которая имеет в себе шесть видеокарт AMD Radeon RX 7900 XTX в корпусе высотой 12U и предлагается по цене в $15 000. В эту сумму включено все необходимое программное и аппаратное обеспечение.
Tinybox использует шесть плат AMD Radeon RX 7900 XTX, которые соединены с помощью полноструктурных каналов PCIe 4.0 x16 для получения максимальной пропускной способности. Они полностью поддерживают одноранговые соединения, необходимые для больших языковых моделей, поэтому Tiny Corp. предпочла использовать их вместо более популярных вариантов от Nvidia.
С точки зрения производительности, Tinybox может обеспечить до 738 FP16 TFLOPS вместе с 96 ГБ памяти GDDR6, что гарантирует совокупную пропускную способность памяти в 21 ТБ/с. Одна единица Tinybox предлагает 37% вычислительной производительности Nvidia H100 (FP16) и более высокую пропускную способность памяти.
Система оснащена процессором AMD EPYC 7532 и 128 ГБ оперативной памяти. Хранилище представлено пятью твердотельными накопителями Western Digital SN850X ёмкостью 1 ТБ, четыре из которых настроены в режим RAID для повышения производительности.
Стартап утверждает, что стоимость Tinybox составляет около $10 000, при этом цена продажи составляет всего $15 000, что значительно ниже, чем у аналогичного продукта от Nvidia. Компания уже получила 583 предварительных заказа и планирует начать поставки в апреле. Отмечено, что уже запущено производство 100 единиц.