1273 подписчика
Наблюдаем как многие испуганные джуны - программисты сегодня превратятся в тыкву :) А так же копирайтеры, переводчики и т.п.
Упал chatGPT и вижу - пошли волнения в соц.сетях. См. картинку.
А мы, неспеша, собираем свои два сервера, туда воткнем две видео-карты и поднимем свои ИИ, одна WizardLM от Microsoft, другая llama3. Отличаются, помимо всего прочего, размером контекстного окна - для задач, где надо на вход подавать больше данных будем использовать WizardLM, а где требуется лучше качество генерации ответа на русском - llama3.
Скорость генерации до 1000 символов в секунду - вполне достаточно.
Около минуты
4 июня 2024