«Яндекс» сэкономил 4,8 млрд рублей в год на обучении нейросетей

Компания «Яндекс» оптимизировала процессы обучения больших языковых моделей, что позволило сократить операционные расходы примерно на 4,8 миллиарда рублей в год.Компьютерра
«Яндекс» повысил эффективность процессов обучения больших языковых моделей (LLM) — без снижения качества и масштабов разработок.CNews
Ключевым технологическим решением стала собственная разработка «Яндекса» — библиотека YCCL (Yet Another Collective Communication Library).CNews
Компания увеличила батч до 16–32 млн токенов, что позволило обучать модели в режиме с минимальным простоем ресурсов графических процессоров.CNews
Источники: