В новой версии драйвера панель управления NVIDIA получила опцию для управления работой механизма, который в англоязычной версии панели называется CUDA - Sysmem Fallback Policy, сообщает VideoCardz. Данный механизм потенциально может улучшить работу приложений, интенсивно использующих значительные объёмы видеопамяти.
Ganesh Ravikumar, Unsplash
Одно из направлений, где данная опция может пригодиться, генеративные нейросети, такие как Stable Diffusion для создания изображений по текстовому описанию. В процессе генерации изображений требуется много видеопамяти, проблемы могут возникнуть даже у владельцев 8-гиговых видеокарт, не говоря уже о решениях с 6 ГБ видеопамяти и меньшим объёмом.
Более того, часть видеопамяти может быть занята другими процессами, что ещё больше усугубляет ситуацию. Как раз-таки последнюю проблему и должна решать CUDA - Sysmem Fallback Policy, эффективно распределяя процессы между видеопамятью и системной памятью, чтобы освободить как можно больше места в видеопамяти для целевой нагрузки.
Источник: VideoCardz
Как объясняют в VideoCardz, основная цель CUDA - Sysmem Fallback Policy — предотвратить сбои на видеокартах с объёмом видеопамяти 6 ГБ. С другой стороны, при отключении механизма система может показывать более стабильный уровень производительности. Другими словами, опция является ситуативной и необходимость её активации зависит от решаемых задач и того, хватает ли им имеющейся видеопамяти.
Источники VideoCardz