4170 читали · 3 месяца назад
Сбер выложил в открытый доступ первую в России диффузионную языковую модель
Экспериментальный проект GFusion создал стажёр из команды фундаментальных моделей. Модель генерирует текст не последовательно, а параллельно, и работает до 45 процентов быстрее GigaChat 3, на основе которого её обучали. Код и метод обучения опубликованы в открытом доступе. Классические большие языковые модели пишут текст слово за словом. Чтобы исправить одну ошибку, им приходится переписывать весь ответ заново. GFusion действует иначе. Сначала она создаёт черновой набросок ответа, а затем пошагово его дорабатывает...