Selfhosting

В 2014 году Ubuntu 10.04 на рабочем компьютере совсем развалилась, а обновлять было страшно. Купил MacBook Air 13″ за 44 000 рублей как тонкий клиент, а десктоп утащил в серверную. От него и правда ничего не нужно было кроме лёгкости – я часто дежурил и нужно было, находясь вечером в баре, подключаться по SSH к клиентским серверам и что-то там чинить. В 2015 я пересел на MacBook Pro с 15″ экраном. В моду вошли приложения на Electron, 4Gb стало мало для работы. В 2016 я встревожился бесхозностью...

Облачные Large Language Model (LLM) в 2025 достигли гигантских размеров - сотни миллиардов параметров, останавливаться не собираются и скоро перерастут триллионы. Они умеют больше, чем только работать с текстом. Картинки рисуют, распознают, перерисовывают, пальцы на руках научились пересчитывать, генерируют уже прям неплохие видео, отлично нарушают авторские права (а может и нет). А начиналось с каких-то лавкрафтово-кислотных галлюцинаций, но сегодня речь не о них. Сегодня мы поговорим о том, как, а главное, зачем селфхостить LLM...

Я расскажу историю об одной из систем, которые я не только размещаю дома, но и написал сам – умный дом. Расскажу как и почему я наколхозил себе эту систему, что из этого получилось, почему Not Invented Here – это не диагноз, а самое главное - какие выводы я сделал из этого проекта. Что двигало мной, когда я начинал проект? Та же, что и с селфхостингом в целом – мне хотелось большего контроля над техникой и автономной работы без интернета. Ну серьёзно, это странно - управлять бойлером через мобильное...

Это личный опыт, который звучит как паранойя, но для меня - скорее гигиена. Можно считать пошаговой инструкцией. Я пользуюсь Mikrotik, но часть пунктов применима и к устройствам других производителей, да и не только к роутерам. Зачем: устройство из магазина могли вернуть, а предыдущий пользователь мог наломать дров, которые не бросаются в глаза. При покупке устройства с рук - вероятность такой ситуации повышается на порядки. Хорошо если продавец наломал дрова по глупости, но он мог и изначально иметь недобрые намерения...

В предыдущей статье мы поговорили об аппаратной инфраструктуре для селфхостинга. В этой поговорим о программной составляющей. Я помогу сделать выбор между виртуальными машинами, сортами контейнеров и отсутствием виртуальной инфраструктуры, сравню плюсы и минусы, опишу когда они уместны и на чём остановился сам. Мои фавориты - libvirt + qemu. Теперь вы сами стали хостером, которому нужно накормить толпу хлебами, но каждый просит забронировать за ним всю булку. Проверьте в BIOS опции аппаратного ускорения...

С вопросом "зачем селфхостить что-то" мы определились, перейдём понемногу к вопросу "где". Основные варианты размещения ПО: Можно не останавливаться на чём-то одном, эти варианты можно совмещать. Разберём их подробнее. Вариантов больше - аренда железного сервера и размещение собственного на площадке хостера (колокэйшн). Так можно меньше беспокоится о проблемах с сетью и питанием. Я об этих вариантах писать не буду, потому что мне они показались дороговатыми, а опыта использования, как и потребности в большой вычислительной мощности у меня не было...