Из-за недавней нехватки графических процессоров для искусственного интеллекта многие люди прибегли к использованию игровых графических ускорителей в качестве альтернативы, поскольку они обеспечивают достойную производительность искусственного интеллекта, в зависимости от того, какие рабочие нагрузки используются. Аналогичным образом, компания Tiny, связанная с искусственным интеллектом, разработала пакет TinyBox для потребителей, лишенных графических процессоров с искусственным интеллектом, в который входят флагманские графические карты AMD на архитектуре RDNA 3, по относительно разумной цене.
Шесть видеокарт AMD Radeon RX 7900 XT установлены в стойку 12U и соединены между собой с помощью интерфейса PCIe 4.0 x16, чтобы обеспечить бесперебойную передачу данных без снижения скорости.
Хотя производительность, которую можно достичь с помощью этой системы не разглашается, согласно расчетам, можно получить около 738 TLFOPS производительности FP16 на шести встроенных графических процессорах, а также 96 ГБ памяти GDDR6, делая ее достойным выбором, учитывая производительность на доллар, получаемую в итоге. В TinyBits отмечают, что использование флагманского ускорителя RDNA3 было лучшим выбором по сравнению с GeForce RTX 4090 исключительно из-за стоимости.
Другие поставщики также производят системы искусственного интеллекта по индивидуальному заказу, такие как рабочая станция AI Workstation от GPTshop, которая предлагает решение Grace Hopper Superchip за 41 000 долларов.
Что касается других характеристик, то система оснащена процессором AMD EPYC 7532 и 128 ГБ оперативной памяти. В качестве хранилища используются 5 твердотельных накопителей SN850X емкостью 1 ТБ, а для сетевых целей используется слот 16x OCP 3.0. Похоже Tiny привлекла внимание к своей системе TinyBox, поскольку компания получила 583 предварительных заказа на систему, поставки которой начнутся в апреле.
Система Tiny, ориентированная на работу в области искусственного интеллекта и продается по цене около 10 000 долларов, что вполне приемлемо, учитывая, что графические процессоры обошлись бы примерно в 6 000 долларов, если бы их удалось получить по рекомендованной розничной цене, что крайне маловероятно. Появление подобных систем является отличной возможностью для небольших компаний приобщиться к набирающей невероятную скорость отрасли искусственного интеллекта. Хотя они, конечно, не могут обеспечить производительность, эквивалентную профессиональным ускорителям искусственного интеллекта в той же конфигурации, они вполне способны выполнять менее требовательные расчеты в экономном режиме.