Американский стартап Tachyum, специализирующийся на разработке процессоров для искусственного интеллекта, представил рабочую станцию Prodigy ATX. Устройство основано на урезанной версии флагманского процессора компании Prodigy.
Prodigy ATX рассчитана на использование предобученных языковых и других моделей искусственного интеллекта объемом до триллионов параметров. По замыслу разработчиков, станция должна сделать работу с такими моделями более доступной для организаций различных размеров.В основе рабочей станции лежит 96-ядерный процессор Prodigy с тактовой частотой до 5,7 ГГц и используется только половина кристалла процессора, что позволяет снизить энергопотребление и стоимость. Система оснащается 1 ТБ оперативной памяти DDR5-6400 и обеспечивает пропускную способность до 819 ГБ/с. Также присутствуют три слота PCIe 5.0 x16, три слота M.2 PCIe 5.0 x4 и разъемы SATA. Предусмотрен полный набор разъемов: USB, HDMI, Ethernet, а управление осуществляется при помощи контроллера AST2600 от Aspeed.По данным Tachyum, Prodigy ATX способна обрабатывать модель размером 1,7 триллиона параметров, в то время как для этого потребовалось бы 52 видеокарты Nvidia A100.Как сообщает издание Tomshardware, компания позиционирует станцию как решение, которое сделает возможности нейросетевого искусственного интеллекта доступными организациям любого масштаба. Цена заявлена на уровне 5000 долларов.
Однако точная дата начала продаж пока неизвестна. Tachyum неоднократно переносила сроки выпуска процессора Prodigy. Последние планы говорят о запуске во второй половине 2024 года.
Несмотря на впечатляющие заявления о производительности, у Tachyum пока нет работающего кремния. Кроме того, регулярные задержки запуска процессора внушают скептицизм. Также сомнительна экономическая целесообразность платформы Prodigy ATX для самой компании. Стоимость комплектующих без процессора оценивается примерно в 4800 долларов. Учитывая, что кремний Prodigy, скорее всего, тоже будет дорогим, можно усомниться, что продукт для вывода нейросетей будет прибыльным для Tachyum.Риски есть, но инициатива Tachyum отражает растущий интерес к возможностям нейросетевого ИИ, ведь уже в обозримом будущем модели вроде GPT-3 и DALL-E станут неотъемлемой частью цифровых продуктов и сервисов. Понятно, что масштабное внедрение нейросетей с миллиардами параметров требует вычислительных мощностей, недоступных большинству организаций, но решения вроде платформы Tachyum могут изменить ситуацию.Важно, чтобы подобные инициативы не ограничивали доступ к технологиям ИИ крупными корпорациями. Это позволит более широкому кругу разработчиков экспериментировать с возможностями нейронных сетей. В конечном счете, именно инновации "снизу" определят, как именно ИИ преобразует нашу жизнь в ближайшие десятилетия, а демократизация доступа к вычислительным мощностям сыграет в этом ключевую роль.