Путеводитель для тех, кто не обязан заранее знать, что такое токенизатор, embedding, RAG и контекстное окно Слово «токен» в разговорах про искусственный интеллект встречается постоянно. Сначала вам объясняют, что нейросеть делит текст на токены. Потом говорят, что у модели контекст на сотни тысяч токенов. А ещё через минуту появляется прайс: столько-то долларов за миллион входных и выходных токенов. Легко решить, что это три разных сущности, которым зачем-то дали одно имя. На самом деле здесь всё гораздо аккуратнее...