Инженер с пятилетним опытом в разработке создал Graph-Oriented Generation (GOG), замену существующей модели RAG, что позволило сократить число использованных токенов на 89%. Это решение значительно улучшает производительность AI-моделей при работе с большими кодовыми базами.
Проблема RAG и её ограничения
Модель RAG часто сталкивается с проблемами при обработке глубоких кодовых баз, что приводит к потере контекста и неверным путям импорта. Инженер заметил, что RAG строит свои модели на вероятностных принципах, что не подходит для строгой архитектуры программного обеспечения.
Что такое GOG?
Новая концепция GOG меняет подход к анализу кода, используя детерминированные «символические модели рассуждений» (SRM). Вместо анализирования текста, GOG парсит всю кодовую базу, строя ориентированный ациклический граф зависимостей. Это позволяет точно определить, какие файлы остаются на актуальном путях выполнения и игнорировать лишние, что заметно уменьшает размер данных.
При тестировании GOG показал скорость анализа кода 0.001 секунды, в то время как RAG потребовал 1.619 секунды. В результате количество токенов, отправляемых в AI, уменьшилось с 4,230 до 451.
Практическое значение для разработчиков
Для разработчиков в России применение GOG может стать новым шагом к оптимизации процессов разработки. Использование этой модели позволит сократить время на анализ кода и улучшить качество работы над проектами. Если ваша команда сталкивается с проблемами обработки больших кодовых баз, стоит обратить внимание на GOG.
Следующим шагом разработчика будет дальнейшее исследование GOG и его возможное применение в окружениях многоагентных систем.
The post Инженер создал GOG — замену RAG для оптимизации кода с 89% снижением токенов appeared first on itech-news.