Найти в Дзене
296 подписчиков

Qwen 3.8 27B локально на двух RTX 5070 Ti: пять конфигураций vLLM, максимальный контекст 262 144 токена и подключение модели к Claude Code. Тестирую не облако и не серверные H100, а сборку, которую реально собрать дома: Ryzen 5 3600, две RTX 5070 Ti по PCIe 4.0 x8 и RTX 3090.


Смотреть на

Полный разбор темы в статье: nizamov.school/...zen
Qwen 3.8 27B локально на двух RTX 5070 Ti: пять конфигураций vLLM, максимальный контекст 262 144 токена и подключение модели к Claude Code.
Около минуты