Яндекс повысил эффективность обучения нейросетей, что позволило сэкономить около 5 млрд рублей в год без потери качества и масштабов разработки больших языковых моделей. Экономия достигнута за счет оптимизации ИИ-инфраструктуры. Ключевым решением стала собственная библиотека коммуникаций YCCL, ускоряющая обмен данными между видеокартами и частично передающая управление процессорам. Подобные технологии есть только у мировых компаний: • Meta • AMD • крупные китайские IT-компании https://dzen.ru/id/5c0e38ff46ef5c00aaa80527
Яндекс оптимизировал обучение нейросетей и снизил расходы
Яндекс повысил эффективность обучения нейросетей, что позволило сэкономить около 5 млрд рублей в год без потери качества и масштабов разработки больших языковых моделей.
Экономия достигнута за счет оптимизации ИИ-инфраструктуры. Ключевым решением стала собственная библиотека коммуникаций YCCL, ускоряющая обмен данными между видеокартами и частично передающая управление процессорам.
Подобные технологии есть только у мировых компаний:
• Meta
• AMD
• крупные китайские IT-компании
https://dzen.ru/id/5c0e38ff46ef5c00aaa80527
