Я заменил JSON на TOON в LLM‑промптах и сократил количество токенов на 40 % — это позволило сэкономить до 30 000 ₽ в месяц при использовании модели GPT‑4 в 2026 году. Формат TOON сохраняет структуру данных, но использует более короткие обозначения, что напрямую уменьшает количество передаваемых токенов. Экономия достигается без потери семантики и без необходимости переписывать бизнес‑логику. TOON (Tiny Object Notation) представляет данные в виде компактных символов, заменяя длинные имена полей на короткие коды. Например, вместо "userName":"Alex" используется "u":"Alex". Это сокращает количество токенов почти вдвое, потому что каждый токен LLM считается словом или символом. В 2026 году большинство провайдеров модели считают токеном любой набор символов, разделённый пробелом, поэтому уменьшение длины строк напрямую влияет на стоимость запросов. Выгода от перехода на TOON измеряется в экономии токенов и, соответственно, в снижении расходов. При цене $0,03 за 1 000 токенов в 2026 году, эко
Как заменить JSON на TOON в LLM‑промптах и сэкономить 40 % токенов
8 апреля8 апр
3 мин