Прозрачные расчеты: Как считать стоимость генерации? 💡
Привет! Нас часто спрашивают, как формируется цена за ответ нейросети и почему она может быть разной. Мы за максимальную прозрачность, поэтому добавили подробнейшую статью в наш Справочник! 📖
А сейчас — краткая выжимка для тех, кто хочет понять суть прямо сейчас.
В основе всего — токены 🪙
Представьте, что токены — это «кирпичики» языка для ИИ. Это не совсем слова, а скорее их части.
В среднем, 1000 токенов ≈ 500-600 слов на русском.
Стоимость каждой генерации считается по простой формуле:
Стоимость = (Токены Запроса + Токены Ответа + Токены Истории) * Цена_модели
Давайте разберем, что это значит:
• Токены Запроса (TQ): Это всё, что вы отправляете нейросети — ваш текст и даже содержимое прикрепленных файлов. Да-да, текст из вашего PDF тоже превращается в токены!
• Токены Ответа (TA): Это сгенерированный нейросетью результат. Чем длиннее ответ, тем больше токенов.
• Токены Истории (TH): САМОЕ ВАЖНОЕ И НЕОЧЕВИДНОЕ! Это «память» чата. Чтобы нейросеть помнила контекст диалога, она каждый раз «перечитывает» предыдущие сообщения.
Именно поэтому второй, короткий вопрос в длинном чате может стоить дороже, чем первый.
🔥 Как на этом сэкономить? 3 простых совета:
1️⃣Новая задача — новый чат. Это самый простой способ обнулить дорогую «память» чата (Токены Истории).
2️⃣Будьте точны в запросах. Чем четче и короче ваш запрос, тем меньше токенов вы потратите.
3️⃣Выбирайте модель под задачу. Для простого вопроса не нужна самая мощная и дорогая модель. Используйте базовые версии, чтобы сэкономить.
Хотите увидеть подробные примеры расчетов и все детали? Заглядывайте в наш Справочник!
