895 подписчиков
Сегодня не знаю, что меня дернуло, но решил я разобрать для себя тему, о которой раньше слышал только понаслышке. Я решил попробовать запустить comfyUI на арендуемом Linux Сервере в immers.cloud.
Вопрос: зачем такое извращение нужно, если вот тебе под рукой API в ComfyUI и все коммерческие сетки там есть. Ну во первых за них надо платить в долларах, в моём случае через опцию - Звонок другу (Денис привет!).
Во вторых на видеокарте RTX 4080 создавать изображения можно, но вменяемое видео нереально, 5 сек будет генерироваться 3 часа на самой просто модели с неизвестным результатом.
В третьих, недавно смотрел тендеры ИРИ на генеративные проекты, вот они не компенсируют расходы на зарубежные сервисы. А тут тебе и оплата с юрлица, и закрывающие документы и карты при этом до NVIDIA H200 c 140Gb VRAM. Гораздо более внятный формат чем покупать видеокарту за 3 млн. Арендуешь сервак и фигачишь до упора.
В общем сели на пару с ChatGPT и я ему "давай замутим", а он "кизяк вопрос", я ему "ниче не выходит?", а он "не боись всё норм". Так слово за слово за пару часов удалось поднять голый сервер, накатить на него визуальную оболочку, поставить браузер, ComfyUI и даже вывести доступ к комфи через браузер с винды, что прям очень удобно.
Потому что на удаленном доступе конечно работать тяжело, очень интерфейс лагает. А когда у тебя Comfy в браузере на винде то вообще разницы нет, локально ты запускаешь или на сервере. Все исходники можно брать с компа, за результатом правда надо заходить на сервер. Минус - все скачанные модели надо на сервере вручную раскладывать по папкам, на винде Comfy сам скачивает и раскладывает. Но это мелочи и надо сделать один раз.
На Nvidia H100 c 80 gb VRAM генерация 10 секунд FullHD занимает 5 минут, цена аренды 360р в час. Если в деньгах сравнивать, с работой по API то час работы сервера равен 3-м генерациям по 12 сек FullHD на нормальной модели. Закончил работать. Вырубаешь сервер. Кладешь свою сборку на полку. Платишь минимум за хранение. Потом когда надо быстро за 5 минут всё развернул, все настройки на месте и не надо снова два часа настраивать.
Ну и если что-то не так скидываешь логи в ChatGPT он разруливает.
В общем если кому надо алгоритм действий могу скинуть.
Там оказалось не все так страшно. Главное правильно вопросы в ChatGPT формулировать.
1 минута
20 февраля