Iconicompany.com IT-HUB

7 часов назад

Вчера я написал, что совет из трёх LoRA-экспертов чинит слабого

Сегодня увеличил датасет в пять раз, и мой собственный результат развалился. На одиннадцати примерах совет давал единицу. Красиво. На пятидесяти девяти - 0.875, а одиночный эксперт 0.915 ± 0.036. Совет ниже нижней границы доверительного интервала. Это не шум, это провал. Причина скучная и важная. Эксперты учились на одних данных и ошибаются одинаково - все чуть слишком строгие. Голосование такую ошибку не гасит, а складывает. Совет начал резать хороших кандидатов чаще, чем любой эксперт поодиночке...

14 часов назад

Один LoRA-эксперт - это лотерея

Обучили трёх на одних и тех же данных, отличались только сиды. Первый и второй согласились с живым сеньором идеально. Третий пропустил двух блефёров из трёх. Тот же рецепт. Тот же датасет. Разброс - как повезёт. Совет из этих же трёх, простым голосованием, сработал на уровне лучшего и починил слабого: блефёров пропущено ноль. Вот зачем нужен совет. Не чтобы выжать лишние проценты у сильного эксперта, а чтобы убрать провал у слабого...

15 часов назад

Enterprise-контур не пускает облачную модель внутрь

Значит, экспертиза должна приехать туда в весах. Проверили. Взяли сеньора-интервьюера с жёсткой рубрикой: конкретный инцидент и цифры ценит, красивый жаргон без доказательств режет. Собрали 47 его собеседований и дистиллировали суждения в LoRA поверх Qwen 3B. Железо - RTX 3090 за $0.14 в час. На held-out кандидатах, которых двойник не видел: F1 0.857 против 0.706 у базовой модели. Но интереснее другое...

18 часов назад

Мы намерили красивых цифр про "совет экспертов": латентный дебат в 67 раз быстрее текста, +51% на адаптивных вопросах

А потом честно выписали, что реально проверено - и нашли дыру размером с весь продукт. Мы ни разу не оцифровали сеньора из расшифровки собеседования. Мерили механизмы на крохотной 0.5B и синтетике, а главного - не делали. Сегодня чиним. Gemini-3 играет "Петра" - сеньора с жёсткой рубрикой: ценит конкретный инцидент и цифры, жаргон без единого разобранного сбоя штрафует. Он собеседует кандидатов разной силы и честности, включая умелых блефёров, и выносит вердикт: Индекс 0-100, оценки по навыкам, красные флаги. Как он докапывается - отдельное удовольствие. Кандидат: "поднял партиции на лету, лаг ушёл"...

1 день назад

Собираем команду 1С на миграцию с SAP

Заказчик прямой, крупная российская логистическая компания - между вами и решением никого. Проект: переход с SAP на 1С по двум контурам, Управление холдингом и ЗУП. Нужны сеньоры: - Аналитики: 2 на УХ, 2 на ЗУП - Архитекторы:...

1 день назад

Прогресс дня: докрутили эксперимент с латентного смоука на 0.5B до настоящей 3B на арендованной 3090 - и получили честный сюрприз

Проверяли, разводит ли специализация весами (LoRA-эксперты в изолированных подпространствах) конформизм в дебате сильнее, чем персоны в промпте на общих весах. На 0.5B разрыв был огромный: косинус "мыслей" 0.97 у персон против 0.79 у LoRA. На 3B разрыв почти исчез - 0.880 против 0.879. То есть яркий эффект 0.5B был во многом артефактом слабой модели: на сильной обе схемы разводят экспертов одинаково...

Покупайте СтеллыИ дарите их за контент