⭐️ Использование новой модели LoRA для Эффективного тюнинга моделей стабильной диффузии. Новый метод, представленный исследователями Microsoft для тонкой настройки больших языковых моделей. LoRA значительно сокращает количество параметров для обучения модели и сокращает использование памяти GPU, поскольку для большинства весов моделей не требуется вычислять градиенты. По сравнению с GPT-3 175B, настроенным с помощью Adam, c LoRA можно уменьшить количество обучаемых параметров в 10 000 раз и затраты GPU в 3 раза. 🤗 Hugging face blog: https://huggingface.co/blog/lora ✅️ Paper: https://arxiv.org/abs/2106.09685 ⭐️ Code: https://github.com/huggingface/diffusers/blob/main/examples/dreambooth/train_dreambooth_lora.py @ai_machinelearning_big_data