Nvidia выпустила блогпост по работе с Comfy и оптимизации запуска моделей на их GPU

Nvidia выпустила блогпост по работе с Comfy и оптимизации запуска моделей на их GPU.

TensorRT версии Flux мы видели ещё год назад, но там проблема запустить BF16 на 24 ГБ VRAM. А соответствующие ноды для комфи не обновлялись с того же времени. Но можно попробовать FP8 для Flux Kontext, и проверить какой буст будет на 4090, коль заверяется, что на 5090 он х1,4. Веры их графикам мало.

Ещё моё внимание в посте привлекли ссылки на плагины под рабочий софт. Забирайте, если не попадалось до этого

* Photoshop

* Blender

* Nuke

* Unreal Engine

Блогпост

ComfyUI TensorRT ноды

Flux Kontext оптимизированный под TensorRT