Добавить в корзинуПозвонить
Найти в Дзене
Iwanych

Почему искусственный интеллект иногда ведёт себя как рыбка Дори

Ты только что душевно общался с нейросетью. Потом открыл новый чат — и машина "делает вид", что видит тебя впервые. Никаких следов прошлого разговора, никаких отсылок к тому, что обсуждали минуту назад. Так устроено контекстное окно. Языковые модели не имеют памяти, как у компьютера и не хранят содержание чата на диске. Вместо этого они делают вот что: Это как Дори из «В поисках Немо»? Умная, вежливая, всегда готова помочь — но не помнит, о чём шёл разговор только что. Кажется, что у нейросети та же болезнь: внутри одного чата она помнит каждое слово. Но стоит закрыть окно и открыть новое — память стёрта. Модель не забыла. Она просто никогда не «знала» тебя за пределами текущего окна, потому что памяти в человеческом смысле у неё нет. Чем больше контекстное окно, тем больше текста нейросеть может «видеть» одновременно. Современные модели работают с окнами от 128 тысяч до 2 миллионов токенов. Для сравнения: это от романа «Евгений Онегин» до всех книг «Гарри Поттера» вместе взятых. Хот
Оглавление

Ты только что душевно общался с нейросетью. Потом открыл новый чат — и машина "делает вид", что видит тебя впервые. Никаких следов прошлого разговора, никаких отсылок к тому, что обсуждали минуту назад. Так устроено контекстное окно.

Что такое контекстное окно?

Языковые модели не имеют памяти, как у компьютера и не хранят содержание чата на диске. Вместо этого они делают вот что:

  1. Каждый раз, когда ты пишешь , модель пролистывает всё, что было в этом чате — от первого до последнего слова.
  2. Анализирует все сообщения и на основе этого выдаёт ответ.
  3. Тут же всё забывает.

Это как Дори из «В поисках Немо»? Умная, вежливая, всегда готова помочь — но не помнит, о чём шёл разговор только что. Кажется, что у нейросети та же болезнь: внутри одного чата она помнит каждое слово. Но стоит закрыть окно и открыть новое — память стёрта.

-2

Модель не забыла. Она просто никогда не «знала» тебя за пределами текущего окна, потому что памяти в человеческом смысле у неё нет.

Чем больше контекстное окно, тем больше текста нейросеть может «видеть» одновременно. Современные модели работают с окнами от 128 тысяч до 2 миллионов токенов. Для сравнения: это от романа «Евгений Онегин» до всех книг «Гарри Поттера» вместе взятых. Хотя в последнее время появились модели с контектом в 10 000 000 токенов.

Чем длиннее разговор — тем умнее кажется модель

Ты замечал, что чем дольше общаешься в одном чате, тем точнее и релевантнее становятся ответы?

Нейросеть НЕ умнеет. Она накапливает контекст: подстраивается под твой стиль, интонацию, ценности. Хотя со стороны кажется, что она перестаёт угадывать и начинает отвечать именно тебе, становится прямо душевной.

Но у этого есть предел. Когда суммарный лимит контекстного окна превышен, самые старые сообщения начинают «выпадать», модель постепенно «забывает» начало разговора и включает рыбку Дори.

Как использовать это на практике

Если работаешь над проектом — держи его в одном чате как можно дольше. Если там закончился лимит контекста, и приходится начинать новый чат — кратко введи контекст в первом сообщении: что за задача, что уже обсуждали, что нужно учесть. ИИ схватит это.

Для похожих задач делай пропт-заглушку и вставляй его в начало каждого нового чата. Если это можно сделать автоматически через настройки, делай.

Например, я, когда работаю с DeepSeek, первым сообщением пишу «отвечай коротко». Он больше других нейросетей любит выдавать простыни текста в ответ на простой вопрос.

У Claude другой затык. Часто галлюцинирует. Поэтому сразу прошу: "Проверяй инфу. Не знаешь точно, лучше не пиши ничего".

Короткая инструкция — как победить недостатки контекста

-3

Чтобы грамотно выстроить диалог делай следующее:

  1. В начале чата дай ориентир. Пара предложений о том, что делаешь и чего хочешь получить в итоге.
  2. Не начинай новый чат, если хочешь сохранить нить беседы. Каждый новый диалог — чистый лист.
  3. Наоборот, если перегрузил контекст и модель начала подвисать, начни новый чат.
  4. Старайся в одном чате не обсуждать разные темы. Не забывай: одна тема — новый новый диалог. В противном случае модель в психологию начнёт вплетать устройство газового котла и разбавлять это китайскими иероглифами. Проверено)
  5. Перед новым чатом попроси резюме. Напиши: «Кратко суммируй всё, о чём мы говорили». Это позволит не потерять ключевые идеи при перезапуске.

В общем, относись к модели как к очень умной рыбке Дори. Дай ей правильный контекст, и она будет помнить всё что нужно. Пока не начнёшь новый чат, во всяком случае :)