Bytedance представила diffusion code model 5.4 раза быстрее

Bytedance представила diffusion code model 5.4 раза быстрее

Bytedance представила экспериментальную ИИ-модель Seed Diffusion Preview для генерации кода, которая создает токены параллельно, а не по одному.

Компания утверждает, что модель может выдавать до 2 146 токенов в секунду на видеокартах Nvidia H20.

Seed Diffusion Preview основана на подходе “дискретной диффузии”. Обычно диффузионные модели используют для непрерывных данных, как изображения, но здесь метод адаптирован для работы с текстом…

Подробнее