В то время как ценники на память бьют все рекорды, нестабильность многих сервисов потихоньку становится нормой.
Посмотрев на всю эту "дичь", я решил собрать свой KHSLiveUSB образ с нейросетями, блэкджеком и куртизанками, на случай тотального блэкаута, который можно было бы побырому залить на флэху, запихнуть в какойнибудь утюг (желательно помощнее) и в условиях отсутствия интернета пообщатся с DeepSeek'ом или Qwen'ом не продавая почку и не залезая в кредит в надежде купить новый SSD или ещё одну планочку RAM памяти.
За основу был взят дистрибутив
Debian 13 Trixie с xfce и ядром 6.12
(Ubuntu с более новым ядром и поддержкой XDNA в процессе тестирования)
Для работы с нейросетями добавил следующие инструменты:
- llama.cpp
- stable-diffusion.cpp
- whisper.cpp
Модели:
- DeepSeek-R1-0528-8B
- Medgemma-4b
- ggml-large-turbo
Для контроля датчиков и мониторинга утилизации ресурсов:
- lm-sensors
- psensor
- nmon
По мимо всего прочего в набор сетевых инструментов я добавил:
- Reticulum Network Stack (rns, nomadnet, sideband)
- присутствует встроеный репозиторий с прошивками поддерживаемых радиомодулей, документацией по RNS и WEB-флешером. Чтоб можно было прошить какойнидь радиомодуль в условиях полного отсутствия интернет соединения, таксказать "не отходя от кассы" )
.iso образ KHSLiveUSB можно загрузить с моего репозитория на HF
Предварительно подготовив флешку на 16Gb с хорошей скоростью чтения/записи стандарта USB 3.2
Там же можно найти и версию БЕЗ нейросетей, только с инструментами RNS. Она не такая привередливая к системным требованиям, для неё можно юзать любые флэшки хоть стандарта USB 2.0 и весит всего 8Gb
Записать образ:
- в Windows с помощью Rufus (в режиме dd)
- в Linux с помощью dd
Загрузится с флешки.
На данный момент образ протестирован мною на следующих Утюгах:
Stable-diffusion на генерацию изображений показали себя неплохо
Так же тесты были проведены на более скромной конфигурации:
Без использования GPU результат запуска medgemma-4b с вопросом не по профилю )