Сборка, 4 карты 3090 в одном корпусе. И все равно, большие ИИ не запустить, работает Qwen2.5-14B-Instruct-AWQ. Сборка не наша - люди делятся опытом, хобби такое :) А я ранее делился предложением нам, когда за 1 млн. токенов просят около 5 рублей с оплатой по безналу. Еще раз - 1 млн. токенов = 5 руб. Ничего, просто пыль... Русский ИТ бизнес
Сборка, 4 карты 3090 в одном корпусе. И все равно, большие ИИ не запустить, работает Qwen2.5-14B-Instruct-AWQ. Сборка не наша - люди делятся опытом, хобби такое :)
А я ранее делился предложением нам, когда за 1 млн. токенов просят около 5 рублей с оплатой по безналу. Еще раз - 1 млн. токенов = 5 руб. Ничего, просто пыль...
