Галера Морева

В ролике очень мало рассказываю про интеллектуальные способности этой модели. Есть щепотка вайбкодинга, но скорее для проверки работоспособности модели. Весь ролик про то как можно её запустить локально, а как можно запустить на арендованных видеокартах: V100, 3090, 4090, h100, h100nvl и в как отдельно запускать на сетапе из двух видеокарт...

Я выступаю с 2019-го года. За плечами десятки выступлений. Выступал на техническую тему, про управление командами разработки, работу с блокчейном и ИИ-агентов. Но сегодня выступал на самую важную для меня тему — безопасность детей в интернете и оффлайне. Увы, но нехорошие люди активно находятся в поиске любой возможности нагадить нам и сделать за счет нас лучше себе. Дети были 9-10 лет. Рассказал им про все известные мне способы развода детей в онлайн-играх, мессенджерах и просто на улице...

Навык подбора модели под задачу постепенно начинает ощущаться как отдельный скилл Я регулярно пробую новые модели и уже дошел до режима, когда могу 1–2 дня вообще на новой модели работать и не страдать. Разумеется, для не срочных задач. Параллельно в браузерном чате купил несколько китайских подписок: Kimi, Minimax, GLM и OpenAI. Просто чтобы руками понять, где у кого реальные сильные и слабые стороны. Разнообразие реально помогает. Лучше начинаешь понимать не только "какая модель умнее", но и "в какую задачу ее вообще нельзя пускать". Модель можно подобрать не по абстрактной мощности и бенчмарку, а по конкретной работе...

Установка, настройка и базовая оркестрация В этом ролике разбираемся с Hermes Agent — self-hosted AI-агентом, который обещает жить на вашем сервере, работать через Telegram и сам создавать/улучшать свои skills. Я не стал снимать ролик сразу на хайпе, а взял паузу, поставил Hermes, погонял его на сервере и посмотрел, насколько красиво звучащие обещания совпадают с реальностью. В ролике: — что такое Hermes...

В последнее время я много смотрю на разные модели для нашего ИИ-провайдера: перебираю все опенсорные модели через разных поставщиков и агрегаторов. И постепенно прихожу к простой мысли: если есть возможность, лучше брать инференс напрямую у разработчика этой модели. Только так можно сформировать надежное мнение о самой модели. Иногда это дороже. Местами сложнее получить доступ. Но когда я беру у создателя, я точно получаю максимум, который ему доступен и точно ту модель, которая его не опозорит. Например, я пробовал Minimax 2.7 через Ollama и был почти уверен, что это просто плохая модель. Она...

С декабря прошлого года я учу китайский и постепенно все больше подключаю китайские сервисы и нейросети в свои проекты, в том числе в наш AI-провайдер. И чем дальше, тем сильнее понимаю: мой китайский пока очень далек даже от 1% того уровня, который мне реально нужен. Но даже этих базовых знаний уже иногда хватает, чтобы заметить маленькую, но важную деталь в сервисе и иногда без переводчика немного ориентироваться в личном кабинете. С английским было бы, конечно, намного спокойнее. И вообще есть ощущение, что в Китае целый мир, который в некоторых вещах реально может сильно поднять и уровень жизни, и эффективность работы...

Страшно представить через что прошли наши деды и бабушки, приближая Великую Победу и вытаскивая страну обратно в жизнь. Спасибо им за это. За то, что у нас вообще была возможность долго жить сыто и спокойно, не просыпаясь от звука войны. Часто вспоминаю свою прабабушку, которая по повестке оставила мирную жизнь и поехала в блокадный Ленинград. Мне невероятно повезло, что она тогда выжила (иначе не было бы меня) и до моих 18 лет она была в моей жизни...

Есть куча софта, который транскрибирует звук с микрофона и сразу вставляет текст в текущее поле ввода. Захотел себе такое внедрить уже, т.к. с ИИ-агентами переписываться голосом — прям самое то, но далеко не каждый сервис с ИИ поддерживает голосовой ввод. Я сначала посмотрел в сторону готовых решений (whispr flow и тд), но быстро понял, что не хочу зависеть от чужих сервисов и их ограничений. Хотелось, чтобы вся эта цепочка опиралась на наш ИИ-провайдер (ai.wormsoft.ru). В итоге вчера навайбкодил...

Чем крупнее клиент, тем дольше от него придется ждать описание задачи, ТЗ и... доступы. Причем доступы обычно выдаются по формуле "чем крупнее клиент, тем больше месяцев получать доступы". Особенно у гос-заказчиков: чтобы получить доступ, надо пройти десятки кругов ада. Потом тебе выдают не доступ, а "рисунок доступа": зайти на сервер можно, а сделать на нем невозможно ничего:) И вот в какой-то момент (максимально неожиданно) нормальный доступ все-таки "выдается", наверх уходит рапорт "доступ команде бракоделов Моревых выдан", и сразу звучит команда "вперед". Дальше начинается магия. Сроки...

У нашего техлида есть свой телеграм канал: https://t.me/s2s_channel Хотел бы я сказать, что за рекламу этого канала мне заплатил его владелец, но пока этому человеку, 2 раза в месяц, уже давно платим мы с братом. Он крутой техлид, круто шарит в ии и его внедрении в работу. Год назад ещё открылся талант в бизнес-аналитике. Используем его как можем и пытаемся выжать из него все соки. Также он – второй человек из нашей компании Wormsoft, который решил двигать себя в паблике. Мы...

Сегодня проходился со старшим по ВПР по английскому (4 класс) и внезапно понял, что я сам местами уже подзабыл правила. Типа предлогов in/at/ out в разных предложениях и с разными существительными. Решил проверить в деле DeepSeek V4. По теории — прям круто. Объясняет спокойно, можно задавать уточняющие вопросы, он нормально раскрывает тему. Плюс отлично генерит тестовые задания, чтобы закрепить материал. Но это все, если честно, давно умеют и локальные модели. "Вау" эффекта тут не случилось. А дальше было разочарование. Там, где gemma-26b-a4b на моей RTX 3090 решила конкретное задание без ошибок,...

OpenClaw и его нестабильность. У OpenClaw быстро начала набираться большая пользовательская база и вырос спрос на настройку. Я и сам уже за вознаграждение настроил несколько агентов для желающих. Но вместе с хайпом у продуктов (точнее у владельцев) иногда приходит самоуверенность. И похоже, OpenClaw сейчас ровно в этой фазе. Туда активно добавляют новый функционал, меняют принципы безопасности и механику штатных вещей. Токен для дашборда теперь получить заметно сложнее, а дать права на спокойную работу на сервере местами превращается в квест. Туда же и потребление ресурсов. На сервере в 2-3 раза мощнее опенкло работает в 2-3 раза медленнее его собрата от марта этого года...