Память - главный ограничивающий фактор даже для лучших чат-ботов с искусственным интеллектом, но его можно обойти. Один из приемов, который используют эксперты ChatGPT, - это то, что люди называют “сегтонгом”.
Сегтонг - это сжатая форма текста, которую ChatGPT может создать для вас, а затем расширить и использовать в качестве истории, чтобы вы могли продолжить с того места, на котором остановились в прошлых разговорах.
Методы сокращения подсказок ИИ не новы, но область их применения довольно интересна. Когда пользователь gfodor на прошлой неделе опубликовал в твиттере сильно сжатую подсказку, он предложил использовать для нее название "сегтонг". И с помощью этой подсказки можно заставить ChatGPT помнить больше обычного.
Как заставить нейросеть запоминать разговоры
Основная идея состоит в том, чтобы попросить ChatGPT сжать весь предыдущий разговор в минимальное количество токенов (представление языка, который ИИ использует внутри). Даны дополнительные инструкции для уточнения этой базовой команды и усиления цели — сохранить чат в сжатом приглашении, которое воссоздаст весь разговор.
По словам экспертов, можно ввести подсказку на сегтонге, чтобы продолжить с того места, на котором вы остановились, но поскольку результаты не идеальны, может помочь предоставление некоторого контекста. Разъяснение ChatGPT, что этот текст был сжат для экономии памяти и должен использоваться в качестве истории, предоставит AI подсказку о том, как следует интерпретировать запрос.
С помощью этой техники можно было бы вести беседы продолжительностью в месяцы или чаты, включающие вставку нескольких больших документов.