Инженер создал GOG — замену RAG для оптимизации кода с 89% снижением токенов
Инженер с пятилетним опытом в разработке создал Graph-Oriented Generation (GOG), замену существующей модели RAG, что позволило сократить число использованных токенов на 89%. Это решение значительно улучшает производительность AI-моделей при работе с большими кодовыми базами. Модель RAG часто сталкивается с проблемами при обработке глубоких кодовых баз, что приводит к потере контекста и неверным путям импорта. Инженер заметил, что RAG строит свои модели на вероятностных принципах, что не подходит для строгой архитектуры программного обеспечения...