Цель: Понимать ограничения контекстного окна (128K токенов). Осознанно решать, когда создавать новый чат.
Метафора: Блокнот Стажера.
У стажера есть один блокнот на проект (чат).
Блокнот огромный (128K токенов ≈ 300+ страниц текста), но не бесконечный.
Когда блокнот заполняется, стажер забывает то, что было в самом начале блокнота.
Новый проект = Новый блокнот (Новый чат). Стажер не помнит, что было в старых блокнотах, если вы ему не напомните (заново не скопируете).
* Инфографика (Текст):
Ключевые понятия:
Токен: ~1 слово или часть слова. *Метафора: Слово/слог в блокноте стажера.*
Контекстное окно (128K токенов): "Размер блокнота". Вмещает много текста (целую книгу!), но при переполнении старая информация стирается.
"Забывание": Не физическое удаление, но бот перестает *учитывать* самую раннюю информацию в *этом конкретном чате* для генерации ответа.
Практика (7 мин):
1. В старом чате (из Урока 1) спросите: А помнишь, про какую кофейню мы говорили? (Скорее всего, помнит).
2. Откройте Новый чат.
3. В новом чате спросите: А помнишь, про какую кофейню мы говорили в прошлый раз? (Ответ: "Извините, я не помню..."). *Это нормально!*
4. Объясните боту в новом чате: Мы обсуждаем SMM для кофейни "Уютный Уголок".
Чеклист "Работа с чатами":
Для новой большой задачи создаю Новый чат
Если бот в длинном чате стал "тупить" или путаться -> Новый чат + кратко напоминаю контекст
Не ожидаю, что бот помнит старые чаты автоматически