107 читали · 21 час назад
Нейросеть почти на терабайт запустили на одном ноутбуке: как Warp обошёл нехватку памяти
Большая нейросеть может занимать больше терабайта. Обычно для её запуска нужны дорогие серверы с огромным запасом памяти. Разработчики Warp выбрали другой путь: оставили почти всю модель на быстром накопителе и научили компьютер подгружать только те части, которые нужны ему в данный момент...