Если планируете сделать РАГ, присмотритесь к этому решению - легко найдете, это open source. Я поигрался - шустрый зараза :).
А вообще РАГ нужен, как мне кажется, для корпоративного обучения, т.к. внутренние сотрудники более лояльны к галлюцинациям, чем внешние клиенты.
