Нейронки дома

Облачные Large Language Model (LLM) в 2025 достигли гигантских размеров - сотни миллиардов параметров, останавливаться не собираются и скоро перерастут триллионы. Они умеют больше, чем только работать с текстом. Картинки рисуют, распознают, перерисовывают, пальцы на руках научились пересчитывать, генерируют уже прям неплохие видео, отлично нарушают авторские права (а может и нет). А начиналось с каких-то лавкрафтово-кислотных галлюцинаций, но сегодня речь не о них. Сегодня мы поговорим о том, как, а главное, зачем селфхостить LLM...

Вчера, в конце очередного месяца я подбивал домашнюю бухгалтерию. Шёл восьмой месяц беременности жены, вся наша жизнь и привычки перевернулись с ног на голову. Расходы на еду выросли почти в 3-4 раза и здесь уже не получится винить инфляцию. Их вина здесь, конечно есть, но ближе к уровню погрешности. Основная вина лежит на следующей цепочке проблем: Решение проблемы заключается в периодической инвентаризации холодильника и дисциплины в готовке еды. Всё предельно банально, придумано давным давно, ещё Голдратт сказал, что все беды из-за избытка складских запасов, которые лежат мёртвым грузом...

Если бы мне в 2020 году сказали, что я буду писать статьи на пару с нейросетями, проверять текст через три инструмента — я бы удивился. Но сейчас мой процесс выглядит именно так, и это… работает. Пишу статьи я в ленивые субботы без каких-либо глобальных запланированных дел, 50 на 50 с игрой в theHunter: Call of the Wild, по методу Pomodoro: Единственное исключение - шестой пункт. Там такого фрагментарного внимания недостаточно, надо прям плотно посидеть-подумать. В чём прелесть использования нейронок в писательстве - обдумывание становится асинхронным...