CrankGPT — локальный голосовой ассистент от Squeez Labs, который работает без облака, Wi‑Fi и розетки. Внутри Raspberry Pi 5, микрофонный HAT, локальные ASR/LLM/TTS-модели, llama.cpp и ONNX Runtime. Питание даёт 20‑ваттный ручной генератор.
Выглядит как шутка для препперов (которые бункеры роют и живут в них), но инженерно это уже работает и ИИ перемещается из дата-центра на такие вот девайсы. Маленькие модели тянут вопросы, перевод, справки и голосовой интерфейс без интернета и без передачи личной информации наружу.
В случае зомби-апокалипсиса вы сможете быстро выяснить, можно ли пить грязную воду и что делать если ты уже сделал это, как скрафтить топор из дерева, травы и камня и как построить бункер до седьмой ночи.
По документации CrankGPT поднимается примерно за 30 секунд от начала вращения ручки до разговора. На Raspberry Pi 5 Gemma 3 1B в Q4_K_M даёт около 14 токенов/с, LFM2.5 350M — почти 49 токенов/с. Для голосового ассистента это уже живой режим, если не пытаться засунуть туда тяжёлую модель.
Самое прикольное это энергия. В режиме ожидания Pi ест около 4 Вт, распознавание речи около 8 Вт, LLM + озвучка около 15 Вт. Когда модель думает и говорит одновременно, ручку реально становится тяжелее крутить. Для сглаживания скачков они добавили кастомную плату конденсаторов: примерно 20 секунд энергетического буфера. Кайф.
Серийный выпуск пока не обещают: сейчас это прототип и форма для демонстрации технической возможности. Локальный ИИ становится железкой, которую можно питать мышцами, батареей, солнечной панелью или любым дешёвым источником. Например, хомяком.
Через пару лет такие коробки будут обычным локальным ИИ: переводчик, справочник, аварийный ассистент, полевой терминал, домашняя приватная модель. Бункерный вайб просто сделал идею заметной.
Облако останется для тяжёлых задач. Всё бытовое и приватное начнёт сползать в телефоны, планшеты, умные наушники и очки.
Источник: CrankGPT, Squeez Labs docs
ИИ для работы: @human20
Среда: human20.app