И последний анонс с полей конференции «День Поиска» «Яндекс» показал новую архитектуру ИИ-моделей, которые используются в поисковой системе. В основе модели — архитектура Encoder-Decoder, где одна часть анализирует инфоконтекст, а другая генерирует результат. Для повышения эффективности в неё добавили слои Mixture of Experts. Раньше такой подход описывался только в научных статьях. Новая архитектура побеждает 60:40 в попарном сравнении, а её инференс (количество вычислений для обработки одного запроса) — на 25% эффективнее. 💼 Rozetked | Подписаться
В ответ на пост
И последний анонс с полей конференции «День Поиска»
«Яндекс» показал новую архитектуру ИИ-моделей, которые используются в поисковой системе.
В основе модели — архитектура Encoder-Decoder, где одна часть анализирует инфоконтекст, а другая генерирует результат. Для повышения эффективности в неё добавили слои Mixture of Experts. Раньше такой подход описывался только в научных статьях.
Новая архитектура побеждает 60:40 в попарном сравнении, а её инференс (количество вычислений для обработки одного запроса) — на 25% эффективнее.
