Задачка, которую часто дают на собеседованиях на должность аналитика
RAG на своих документах локально: пошагово без облака
Обычная нейросеть отвечает из того, что «запомнила» при обучении. Проблема в том, что про ваши внутренние документы, регламенты и базу знаний она не знает ничего — и когда не знает, часто выдумывает. RAG решает именно это: он заставляет модель отвечать по вашим материалам, а не по фантазии. Ниже разберу, что такое RAG простыми словами, как он устроен внутри, какие шаги нужны для внедрения и почему локальный вариант — про приватность. Без лишней теории, по делу. RAG расшифровывается как «генерация с дополнением через поиск», но за аббревиатурой стоит очень простая идея...