Исследователи из Новосибирского государственного университета (НГУ) совместно с коллегами из ведущих вузов страны, включая МГУ, ИТМО и МИСИС, представили программную библиотеку RAGU, призванную решить одну из главных проблем современного искусственного интеллекта — риск галлюцинаций.
Эта технология значительно повышает точность и надежность ответов больших языковых моделей, минимизируя риск выдачи вымышленных фактов за достоверные. Проект представляет собой открытый инструмент, который делает работу нейросетей более прозрачной и обоснованной.
В основе инновации лежит использование графа знаний — системы организации данных, где информация представлена в виде сети взаимосвязанных элементов, а не простых таблиц. Такой подход позволяет компьютеру глубже понимать контекст и видеть неявные закономерности между объектами.
Интегрируя граф знаний в работу языковых моделей, библиотека RAGU заставляет нейросеть опираться на четко структурированную базу фактов, что критически важно при работе с научной, юридической или технической документацией.
Ключевым технологическим преимуществом разработки стал переход к поэтапному построению графа знаний. В то время как существующие мировые аналоги часто требуют использования колоссальных вычислительных мощностей и моделей с десятками миллиардов параметров, подход ученых НГУ позволяет обходиться гораздо более компактными решениями.
«Обычно для эффективного построения графа знаний требовались огромные языковые модели — до около 32 млрд параметров. Наш подход уменьшил размер до около 600 млн параметров за счет дообучения и многошаговой архитектуры, сохранив или даже повысив качество по сравнению с традиционными решениями», — говорят исследователи.
По словам авторов проекта, библиотека RAGU будет полезна широкому кругу разработчиков для создания доверенных интеллектуальных систем.