Найти в Дзене

Русские LLM в LM Studio

Ну что ж, пора поговорить о том, как искусственный разум осваивает русскую душу — особенно в преддверии праздников, когда хочется не просто «с Новым годом», а настоящего, тёплого, рифмованного чуда. У меня в LM Studio на обычном ноутбуке (да, без топовых видеокарт и киловаттных блоков питания) живут три русскоязычные модели, и каждая из них получила задание: сочинить четверостишие к Новому году. Давайте посмотрим, кто из них оказался ближе к Деду Морозу, а кто — к замерзшему Wi-Fi. Пусть Новый год принесёт тепло,
Радость и свет в каждый день.
Пусть мечты станут явью —
И счастье будет всегда! И вот тут... хочется улыбнуться. Четыре строки — и всё. Без суеты, без пафоса, как добрая записка от соседки снизу. Модель сработала быстро — всего 0.84 секунды до первого токена и впечатляющие 8.22 токена в секунду. Это тот случай, когда маленький формат (всего 4 миллиарда параметров) не мешает душевности. Конечно, рифма не блистает изобретательностью, зато в словах — искренность. Такое поздравлен
Оглавление

Кто сочинит новогоднее чудо на обычном ноутбуке?

Ну что ж, пора поговорить о том, как искусственный разум осваивает русскую душу — особенно в преддверии праздников, когда хочется не просто «с Новым годом», а настоящего, тёплого, рифмованного чуда. У меня в LM Studio на обычном ноутбуке (да, без топовых видеокарт и киловаттных блоков питания) живут три русскоязычные модели, и каждая из них получила задание: сочинить четверостишие к Новому году. Давайте посмотрим, кто из них оказался ближе к Деду Морозу, а кто — к замерзшему Wi-Fi.

Ruadaptqwen3-4b-instruct: лаконичная теплота

Пусть Новый год принесёт тепло,
Радость и свет в каждый день.
Пусть мечты станут явью —
И счастье будет всегда!

И вот тут... хочется улыбнуться. Четыре строки — и всё. Без суеты, без пафоса, как добрая записка от соседки снизу. Модель сработала быстро — всего 0.84 секунды до первого токена и впечатляющие 8.22 токена в секунду. Это тот случай, когда маленький формат (всего 4 миллиарда параметров) не мешает душевности. Конечно, рифма не блистает изобретательностью, зато в словах — искренность. Такое поздравление спокойно впишется в открытку или в мессенджер, не вызывая у получателя ни смеха, ни недоумения.

Gigachat3-10b-a1.8b@q5_k_m: энтузиазм с пояснениями

С новым годом!
Пусть все ваши мечты сбудутся.
Желаю радости и веселья,
И нового года полные счастья дни!
Это теплое пожелание выражает пожелания счастья, исполнения желаний, радости и веселья в новом году.

Ох уж этот... порыв! Модель не только сочинила поздравление, но и тут же проанализировала его сама. Как будто школьник на уроке литературы: «автор хотел показать...». Скорость у неё приличная — 10.82 токена/сек, но старт затянулся на 5 секунд. Зато 10-миллиардный «движок» явно старается. Правда, вместо четверостишия получилось скорее свободное стихотворение с нотками делового письма. И всё же — в нём чувствуется желание быть полезной. Просто, видимо, немного перестаралась с «объяснением».

Vikhr-nemo-dostoevsky-saiga-12b: поэзия с морозцем

Снегом покрыты улицы, морозный воздух свеж,
Новый Год стучится в двери, радость принесёт.
Пусть удача будет с вами, как волшебный снег,
И подарит много счастья, смеха и забот!

А вот это уже «вау»! Чувствуется, что модель не просто знает русский — она дышит им. Атмосфера, образы, ритм — всё на месте. Только представьте: морозный воздух, стук в дверь... Это не поздравление, это начало новогоднего рассказа. Пусть и работает она медленнее (всего 2.93 токена/сек и 2.37 сек до старта), но результат того стоит. Особенно если вы, как и я, верите, что технологии должны не только считать, но и вдохновлять.

• Это модель, которая явно наслаждалась каждым словом.
• Она рисует картинку, а не просто перечисляет пожелания.
• И да, она унаследовала немного духа Достоевского — пусть и в миниатюре.

Выбор за вами: нужна скорость и простота — берите Ruadaptqwen3. Хотите максимальную мощность и готовы ждать — Gigachat3 справится с более сложными задачами (хотя с поэзией пока не в ладах). А если вам важна именно поэтическая форма, душа и атмосфера — Vikhr-nemo-dostoevsky-saiga пока вне конкуренции.

Ведь настоящий Новый год — не про цифры, а про те мгновения, когда даже ИИ может удивить теплом.

#LLM #русскийязык #искусственныйинтеллект #новыйгод #LMStudio #локальные_модели #поэзияИИ