Добавить в корзинуПозвонить
Найти в Дзене
Галера Морева

Брать модели у исходных поставщиков

В последнее время я много смотрю на разные модели для нашего ИИ-провайдера: перебираю все опенсорные модели через разных поставщиков и агрегаторов. И постепенно прихожу к простой мысли: если есть возможность, лучше брать инференс напрямую у разработчика этой модели. Только так можно сформировать надежное мнение о самой модели. Иногда это дороже. Местами сложнее получить доступ. Но когда я беру у создателя, я точно получаю максимум, который ему доступен и точно ту модель, которая его не опозорит. Например, я пробовал Minimax 2.7 через Ollama и был почти уверен, что это просто плохая модель. Она меня реально бесила: выдавала ерунду, с ней было невозможно кодить, и ощущение было такое, будто это не модель-хедлайнер, а небольшая модель прошлого года. Я уже почти записал ее в список "никогда больше" и даже начал свое мнение рассказывать разным людям. Но в рамках моего "тура по моделям" я решил все же дать её еще один шанс. Решил попробовать ее напрямую в тестах. Зарегался как китаец н

Брать модели у исходных поставщиков

В последнее время я много смотрю на разные модели для нашего ИИ-провайдера: перебираю все опенсорные модели через разных поставщиков и агрегаторов.

И постепенно прихожу к простой мысли: если есть возможность, лучше брать инференс напрямую у разработчика этой модели. Только так можно сформировать надежное мнение о самой модели.

Иногда это дороже. Местами сложнее получить доступ. Но когда я беру у создателя, я точно получаю максимум, который ему доступен и точно ту модель, которая его не опозорит.

Например, я пробовал Minimax 2.7 через Ollama и был почти уверен, что это просто плохая модель. Она меня реально бесила: выдавала ерунду, с ней было невозможно кодить, и ощущение было такое, будто это не модель-хедлайнер, а небольшая модель прошлого года.

Я уже почти записал ее в список "никогда больше" и даже начал свое мнение рассказывать разным людям. Но в рамках моего "тура по моделям" я решил все же дать её еще один шанс.

Решил попробовать ее напрямую в тестах. Зарегался как китаец на их Token Plan, начал работать. Внезапно оказалось, что она вообще не хуже Kimi K2.6, которая пока мой китайский эталон. А по количеству и качеству рассуждений местами даже лучше.

В итоге вывод простой: брать от разработчика и только тогда формировать мнение.

Кстати говоря, мы (ai.wormsoft.ru) тоже посредник и лучше к нам не ходите, а идите напрямую к разработчикам. Кто его знает чего мне в голову взбредет когда видеокарты начнут заканчиваться:)