Портативная машина, способная запустить модель со 120 миллиардами параметров.
Компания Tiiny AI представила то, что Книга рекордов Гиннесса подтвердила как самый маленький в мире персональный ИИ-суперкомпьютер. Устройство называется Tiiny AI Pocket Lab, и несмотря на то, что оно размером примерно с пауэрбанк, оно обещает уровень производительности, для которого обычно требуется очень дорогое оборудование. Другие небольшие суперкомпьютеры, такие как Project Digits от NVIDIA (стоимостью около 3000 долларов) и DGX Spark (стоимостью 4000 долларов), имеют ценовые категории, которые делают их недоступными для большинства обычных пользователей.
В Tiiny AI утверждают, что сегодня реальным узким местом в сфере ИИ является не вычислительная мощность, а наша зависимость от облака. Директор по маркетингу Самар Бходж заявляет: «Интеллект должен принадлежать не дата-центрам, а людям». Запуская большие модели локально, Pocket Lab стремится снизить зависимость от облака, повысить конфиденциальность и сделать передовой ИИ более личным, а не удалённым.
Технологии, лежащие в основе суперкомпьютера Tiiny AI
Pocket Lab имеет размеры всего 14,2 × 8 × 2,53 см и весит всего 300 грамм, однако компания утверждает, что он может запускать большие языковые модели с до 120 миллиардами параметров. Модели такого размера обычно ассоциируются с серверными стойками или профессиональными видеокартами (GPU), но Tiiny AI хочет предоставить эту возможность в устройстве, которое помещается на ладони.
Pocket Lab построен на основе новейшего 12-ядерного процессора ARM v9.2 и поддерживает популярные модели с открытым исходным кодом, такие как GPT-OSS, Llama, Qwen, DeepSeek, Mistral и Phi. Сердцем устройства является дискретный нейропроцессор (NPU), способный обеспечивать производительность 190 TOPS. Он также оснащён 80 гигабайтами оперативной памяти LPDDR5X, что позволяет применять агрессивное квантование, чтобы огромные модели могли работать локально, не завися от облачной инфраструктуры.
Tiiny AI также внедрила в систему две ключевые технологии:
- TurboSparse: метод разреженной активации на уровне нейронов, который повышает эффективность логического вывода (инференса) без снижения интеллекта модели.
- PowerInfer: гетерогенный механизм логического вывода, который распределяет рабочие нагрузки ИИ между процессором (CPU) и нейропроцессором (NPU), обеспечивая производительность уровня сервера при низком энергопотреблении.
Это сочетание делает Pocket Lab привлекательным вариантом для всех, кто экспериментирует с локальным ИИ, будь то исследования, робототехника или сложные задачи логического вывода.
Tiiny AI планирует продемонстрировать устройство на выставке CES 2026. Ценовая политика и дата выхода пока держатся в секрете, но отрасль будет внимательно следить за тем, как суперкомпьютер таких скромных размеров покажет себя у реальных пользователей.