Недавно стала доступна для локальной установки новая ИИ от Французов.Мне не хватает всего лишь 1.35 терабайта памяти для запуска модели в формате BF16 :) Ожидается, что с квантизацией IQ4 модель уместится в 512 гигабайт. Но если у вас есть 1...