13 подписчиков
Память ИИ🔺За пределами чата🔻
Когда нейросеть понимает с полуслова
Хорошего собеседника часто узнают по тому, сколько ему не нужно объяснять. Он помнит прежние разговоры, связывает отдельные темы и понимает короткую реплику. Когда похожим образом отвечает нейросеть, появляется ощущение, что она знает больше, чем содержится в самом вопросе
◽Внутри одного чата такое продолжение привычно. Если обсуждалось несколько тем, а последние сообщения посвящены одной, короткий вопрос обычно воспринимается в её рамках. Его смысл складывается из слов и окружающего диалога. Пользователь может опустить часть пояснений, потому что они уже присутствуют в контексте
◽В системах с памятью эта связь может выходить за пределы текущего разговора. Пользователь обсуждает книги разных направлений в отдельных чатах, затем задаёт общий вопрос о работе над книгой. Название ещё не прозвучало, но ответ уже касается одного из ранее обсуждавшихся замыслов. Возникает ощущение непрерывного общения, хотя сам диалог начался заново
◽За ощущением понимания с полуслова стоит несколько составляющих взаимодействия:
💠Текущий диалог
🔹Запрос, предыдущие сообщения и инструкции задают ближайшее окружение вопроса. Именно здесь пользователь формулирует текущую задачу, но часть её условий может оставаться невысказанной
💠Память между разговорами
🔹Сохранённые сведения помогают учитывать предпочтения, прежние решения и обсуждавшиеся задачи. Когда они возвращаются для подготовки ответа, они дополняют текущий контекст и сокращают необходимость повторных объяснений
💠Актуальность прошлого
🔹Предыдущие разговоры могут относиться к разным направлениям работы. Недавно обсуждавшаяся книга выглядит естественным продолжением общего вопроса, но пользователь уже мог переключиться на другой замысел. Знакомая тема не обязательно остаётся текущей
💠Предположение о намерении
🔹Нейросеть связывает формулировку вопроса с доступными сведениями и достраивает недостающий смысл. При удачном совпадении это воспринимается как понимание с полуслова. При ошибке получается подробный ответ на задачу, которую пользователь сейчас не ставил
◽Память делает взаимодействие непрерывнее: сведения из прежних разговоров дополняют текущий запрос и сокращают пояснения. Но верные сведения о прошлом ещё не гарантируют правильного понимания новой задачи. Поэтому управление контекстом включает и проверку того, совпадает ли достроенный нейросетью смысл с намерением пользователя
___
〽Мы ценим собеседников, которым не нужно всё объяснять заново. Но понимание с полуслова всегда оставляет вторую половину фразы за собеседником. И чем убедительнее он её достраивает, тем легче забыть проверить, именно это ли мы собирались сказать
#промптология #ПамятьИИ #Контекст
2 минуты
3 октября