Найти тему
10,2 тыс подписчиков

🖥🐍 mamba-minimal


Простая реализация архитектуры Mamba в одном файле PyTorch.

Mamba - это усовершенствованная модель пространства состояний (SSM), предназначенная для эффективной работы со сложными последовательностями, требующими большого количества данных: Linear-Time Sequence Modeling with Selective State Spaces", разработанной ведущими исследователями Альбертом Гу и Три Дао.

🖥 Github

📖 Paper

🎞 Мамба - замена трансформерам?

@machinelearning
🖥🐍 mamba-minimal Простая реализация архитектуры Mamba в одном файле PyTorch.
Около минуты