Dropbox улучшил рейтинг документов с помощью LLM на 100 раз

Dropbox успешно применил большие языковые модели (LLM) для улучшения процесса оценки документов, что позволило увеличить скорость этой работы в 100 раз. Это важный шаг для качества ответов системы Dropbox Dash, необходимого для корпоративных пользователей, которые имеют дело с миллионами документов.

Почему это важно

Системы, основанные на методах augmentation, как RAG (retrieval-augmented generation), требуют высокого качества извлеченных данных. Как объясняет Дмитрий Мейзерон, главный инженер Dropbox, основной проблемой — качество извлечения документов, которое напрямую влияет на финальные ответы. Важно, чтобы ЛЛМ обрабатывали только наиболее релевантные данные, а разработка новых методов оценки может коренным образом изменить эту ситуацию.

Кроме того, традиционные методы маркировки этих зависят от человеческих экспертов, что часто приводит к повышенным затратам времени и ресурсов. Введя LLM в процесс, Dropbox добивается не только снижения затраты, но и более высокой последовательности в оценках.

Как это работает

Метод, использованный Dropbox, включает в себя совместное использование больших языковых моделей и человеческой оценки. Люди создают качественный малый набор данных, который затем используется для калибровки LLM, позволяя последним генерировать сотни тысяч меток для больших объемов документов. Это значительно amplifies human judgment без ущерба для точности данных.

Но важно отметить, что LLM не полностью заменяют качества оценки — они лишь ускоряют процесс. Это помогает командам быстрее адаптироваться к новым запросам пользователя и не терять контекст, что критически важно в больших корпоративных системах.

И что мне с этого?

Для разработчиков и компаний, работающих в области больших этих и AI, внедрение таких технологий может означать значительное сокращение времени на подготовку качественных этих для обучения моделей. Если ваша команда использует или планирует внедрение RAG систем, стоит обратить внимание на подобные методы — это позволяет упростить процессы и значительно повысить эффективность работы.

Компания планирует и дальше развивать свои методики с акцентом на качество и скорость, что может подстегнуть к стремлению к более точным системам АI в других сферах.

The post Dropbox улучшил рейтинг документов с помощью LLM на 100 раз appeared first on itech-news.