1 неделю назад
Переписали фрагменты через языковую модель — поиск вырос на 0,8 %
Прошлая статья дала линейку: eval-контур на 62 вопросах и честный baseline Recall@20 0.3285. Теперь можно было браться за улучшения. Первым в списке стоял приём с красивой логикой — Contextual Retrieval. Идея из свежей публикации Anthropic: если эмбеддинг теряет контекст, верни контекст в сам чанк. Ожидание было амбициозным. По плану модернизации Contextual Retrieval должен был поднять Recall@20 с 0.3285 до 0.5 и выше, а MRR с 0.1209 до 0.3. В полтора раза по обеим метрикам, без смены модели эмбеддинга — только за счёт переписывания чанков...