Комфи выкатили одно из лучших навенрое улучшений за всю историю Кастомный аллокатор памяти pytorch (оптимизатор видеопамяти) который вместо того чтобы загружать все веса моделей заранее, подгружает их в момент когда они реально нужны благодаря чему можно запускать самые огромные модели на пк с ограниченной памятью Уже доступна кстати Заметно снижает потребление оперативки, убирает полностью вылеты из за нехватки памяти, значительно быстрее загруает модели и лоры, запускает модели превышающие объем ram без использование pagefile, gpu теперь использует видеопамять эффективнее Настраивается и работает это все автоматически Blog
Dynamic VRAM в ComfyUI
Комфи выкатили одно из лучших навенрое улучшений за всю историю
Кастомный аллокатор памяти pytorch (оптимизатор видеопамяти) который вместо того чтобы загружать все веса моделей заранее, подгружает их в момент когда они реально нужны благодаря чему можно запускать самые огромные модели на пк с ограниченной памятью
Уже доступна кстати
Заметно снижает потребление оперативки, убирает полностью вылеты из за нехватки памяти, значительно быстрее загруает модели и лоры, запускает модели превышающие объем ram без использование pagefile, gpu теперь использует видеопамять эффективнее
Настраивается и работает это все автоматически
