10,1 тыс подписчиков
🎓 BayesDLL: Bayesian Deep Learning Library
New Bayesian neural network library for PyTorch for large-scale deep network
Новая библиотека байесовских нейронных сетей для PyTorch, предназначенную для работы с крупномасштабными глубокими сетями.
В библиотеке реализованы основные алгоритмы приближенного байесовского вывода: вариационный вывод, MC-dropout, стохастически-градиентный MCMC и аппроксимация Лапласа.
Основные отличия от других существующих библиотек байесовских нейронных сетей заключаются в следующем:
1) библиотека может работать с очень крупными моделями, в том числе с Vision Transformers
2) Практически не требует от пользователей модификации кода .
3)Позволяет использовать предварительно обученные веса модели в качестве средних значений, что полезно для проведения байесовских вычислений в крупномасштабных моделях типа ViTs, которые трудно оптимизировать с нуля на основе одних только исходных данных.
🖥 Github: https://github.com/samsunglabs/bayesdll
📕 Paper: https://arxiv.org/abs/2309.12928v1
Около минуты
25 сентября 2023