Найти в Дзене
Техноманьяк

Самый маленький компьютер для запуска локальных языковых моделей на 120 млрд параметров

Очень интересный гаджет показал стартап Tiiny AI - мини ПК Pocket Lab, размером чуть больше смартфона с очень мощной начинкой: 12-ядерный ARM-процессор, 80 ГБ оперативной памяти. На нем можно автономно запускать OpenAI GPT-OSS, Llama, Qwen, DeepSeek, Mistral и Phi, есть поддержка инструментов типа - OpenManus, ComfyUI и тд Цены еще нет, но из за всего происходящего на норм ценник надеется не приходится👻

Самый маленький компьютер для запуска локальных языковых моделей на 120 млрд параметров

Очень интересный гаджет показал стартап Tiiny AI - мини ПК Pocket Lab, размером чуть больше смартфона с очень мощной начинкой: 12-ядерный ARM-процессор, 80 ГБ оперативной памяти.

На нем можно автономно запускать OpenAI GPT-OSS, Llama, Qwen, DeepSeek, Mistral и Phi, есть поддержка инструментов типа - OpenManus, ComfyUI и тд

Цены еще нет, но из за всего происходящего на норм ценник надеется не приходится👻

-2
-3