5 месяцев назад
Разбираю, когда маленькую модель действительно стоит дообучать, какие ограничения у LoRA и почему “офлайн‑ассистент за 30 минут” почти всегда упрощение. Я часто вижу один и тот же сценарий: берут небольшую open-weight модель, прикручивают LoRA, экспортируют в GGUF и называют это “локальным GPT под свой бизнес”. Звучит привлекательно: модель работает без облака, не отправляет данные наружу, помещается на ноутбуке или даже на телефоне. Но в этой схеме есть нюанс. LoRA не превращает маленькую модель в универсальный интеллект...
