3 дня назад
StepFun выпустила открытые веса для предварительной версии Step 5 и опубликовала технический блог об архитектуре
Открыты веса Step 5 Preview от StepFun: 600 млрд параметров, 27 млрд активных, 1 млн токенов. Технический блог раскрывает детали 92-слойной архитектуры, Sparse GQA и обучения агентов. StepFun 15 октября опубликовала веса своей модели Step 5 Preview, соблюдая заявленную дату открытия исходного кода, объявленную при запуске модели в сентябре. Релиз включает контрольные точки BF16 и FP8 на Hugging Face и ModelScope, технический блог с описанием процесса создания модели и вспомогательные инструменты для разработчиков с открытым исходным кодом...