Стоит ли собирать $6k AMD AI-систему или выбрать облако? В сообществе Reddit возникает спор о целесообразности сборки мощной локальной системы за $6,000 для изучения и настройки локальных LLM и диффузионных моделей. В планах: два GPU AsRock Radeon AI PRO R9700 с общим объемом видеопамяти 64 ГБ, процессор AMD Ryzen 9 9950X и 96 ГБ оперативной памяти DDR5. Для хранения данных предусмотрены SSD от Lexar общей емкостью 6 ТБ. Вопрос, который волнует автора: что выгоднее — инвестировать в такое железо или использовать облачные решения? Сборка дает полный контроль над ресурсами и избавляет от постоянных расходов на аренду облака. Однако, облака предлагают гибкость и возможность масштабирования без начальных затрат. Для новичка в локальных моделях и тюнинге стоит обдумать, насколько часто предстоит работа с такими объемами данных и вычислений. ⚡️ Главное: Перед вложением в дорогое железо важно оценить свои реальные потребности и частоту использования. Облака могут быть более гибким решением