Или 30 символов русского языка в секунду. Потребление 2.4 кВт. Вот тут детали https://github.com/ai-infos/guidances-setup-16-mi50-deepseek-v32 p.s. в сборке 16 AMD MI50 32GB. Сколько вложил денег человек я не уловил. Но это не дешево. Русский ИТ бизнес
На этой сборке 10 токенов в секунду дает Deepseek 3.2 локально. Или 30 символов русского языка в секунду. Потребление 2.4 кВт. Вот тут детали https://github.com/ai-infos/guidances-setup-16-mi50-deepseek-v32
p.s. в сборке 16 AMD MI50 32GB. Сколько вложил денег человек я не уловил. Но это не дешево.
