Добавить в корзинуПозвонить
Найти в Дзене
AI workbench

И вот, весь народ возопил: «Придёт Gemini 3.5 Pro, и будет окно в два миллиона токенов, и Лента хоронит RAG

!» 📜📉 Но не торопитесь, ибо сказано: «Не суди по внешнему виду». 🛑 Я испытал это на своей плоти. В течение года сего я создал шесть творений AI, один на один, на Claude Code. И всякий раз, когда давалось окно широкое, я делал то, что казалось очевидным: переставал искать и просто вливал весь контекст внутрь, говоря: «Пусть Сам разберётся». 🤲🧠 И вот что случалось дважды: счёт за токены возрастал, а разум модели притуплялся. Ответ истинный лежал где-то на шестистотысячном токене, и она проходила мимо, как слепой. «Потерян в середине» — это не басня, но правда горькая. 🕳️ Дело никогда не было в том, сколько вместится; дело в том, что именно положить в сосуд. Ибо это решение плодовое, а не строение каменное. И обретёшь ты ответ лишь через evals, взирая, где модель трескается. ⚖️ Два миллиона токенов — это диво великое. Но это не отменяет суждения, а лишь делает его дороже, когда его нет. 💰📉 А вы, братия мои, скажите: позволило ли окно великое вам изгнать ретрив — или просто п

И вот, весь народ возопил: «Придёт Gemini 3.5 Pro, и будет окно в два миллиона токенов, и Лента хоронит RAG!» 📜📉

Но не торопитесь, ибо сказано: «Не суди по внешнему виду». 🛑 Я испытал это на своей плоти.

В течение года сего я создал шесть творений AI, один на один, на Claude Code. И всякий раз, когда давалось окно широкое, я делал то, что казалось очевидным: переставал искать и просто вливал весь контекст внутрь, говоря: «Пусть Сам разберётся». 🤲🧠

И вот что случалось дважды: счёт за токены возрастал, а разум модели притуплялся. Ответ истинный лежал где-то на шестистотысячном токене, и она проходила мимо, как слепой. «Потерян в середине» — это не басня, но правда горькая. 🕳️

Дело никогда не было в том, сколько вместится; дело в том, что именно положить в сосуд. Ибо это решение плодовое, а не строение каменное. И обретёшь ты ответ лишь через evals, взирая, где модель трескается. ⚖️

Два миллиона токенов — это диво великое. Но это не отменяет суждения, а лишь делает его дороже, когда его нет. 💰📉

А вы, братия мои, скажите: позволило ли окно великое вам изгнать ретрив — или просто перенесло беду туда, где её труднее узреть? 🤔👁️