1298 подписчиков
"Попробовал локальную модель Mistral 7b и что я хочу сказать - будущее наступило. Open ai спасибо до свидания. Зачем платить что то open ai если все можно крутить на жалких 4 gb памяти платя только за электричество."
Началось. То о чем предупреждали большевики наступило - скоро ИИ будет доступен массам за копейки (или даже дешевле). Сколько угодно ИИ, без лимитов, бесплатно...
p.s. "На rtx3070 примерно 20-30 токен/сек" - скорость генерации текста. По мне - нормально. ("20-30 токенов в секунду, значит по-русски 40-60 букв в минуту, значит в минуту 340-514 слов").
Иными словами - для генерации огромного количества статей (мусорных) для вашего сайта - вполне подойдет :)
Около минуты
3 февраля 2024