1267 подписчиков
Думаю для тех, кто давно запускает ИИ у себя, этот пост бесполезен, а для новичков делюсь - мы запускаем на наших серверах + картах ИИ с помощью вот этого софта. Он сильно упрощает запуск нужной ИИ, довольно удобен, как ребята мне пишут. Выбираешь модель, скачиваешь софт и бинго - все работает условно из коробки.
Цитирую спеца:
"Есть модель, это всего лишь набор весов (словарь по простому). А есть софт на котором ты этот словарь будешь крутить, вот его много, с разными подходами. Вот он очень удобен. Раньше нам не подходил, не было мультизапросов, просто в очередь ставил. А теперь появились...А ещё там они удобно сделали, базу моделей нужного формата ведут.
Вот так и я учусь, просто спрашиваю людей умнее меня, что и как они делают - сам обучаюсь :) Про данный софт первый раз слышал, теперь хоть знаю.
Около минуты
10 июня 2024