🤨Почему нейросеть "тупит" в середине длинного разговора
🤨Почему нейросеть "тупит" в середине длинного разговора? Потому что у неё кончается память. Это и есть контекстное окно. Представьте, что вы учите нового сотрудника тонкостям профессии. После часа разговора, он начнёт путаться, менжеваться и подбешивать вас. Он не тупой. просто объем информации большой, а мозг маленький😁 Ученик забывает, что было в начале. У нейросетей также. Чем больше окно - тем длиннее и сложнее задачи она может держать в голове одновременно. Смотри на картинку 👆 Например: 1️⃣ChatGPT в базовом режиме - 32k токенов (~40–60 страниц А4)...