Вы наверняка сталкивались с этим. Долгий разговор с ChatGPT, всё идёт хорошо — и вдруг модель начинает противоречить тому, что говорила двадцать минут назад. Или просто перестаёт учитывать детали, которые вы указали в самом начале. Как будто кто-то незаметно стёр часть диалога. Так и есть. Только стирает не кто-то — стирает сама архитектура. Что такое контекстное окно У каждой языковой модели есть контекстное окно — максимальный объём текста, который она держит в голове одновременно. Измеряется в токенах: примерно 100 токенов — это 75 слов на русском...