🐸 Среднее значение может скрыть самые медленные запросы. Представь 1000 запросов: - 970 уложились в 200 мс - 20 заняли около секунды - 10 выполнялись 8-10 секунд Среднее будет выглядеть неплохо, но каждый сотый пользователь получит очень медленную страницу...

Компания Anthropic 17 июня 2025 года выпустила Decisions API, новый программный интерфейс, который позволяет приложениям реагировать на действия пользователя за миллисекунды, без полноценного вызова языковой модели. Decisions API решает проблему задержки: там, где обычный запрос к модели Claude занимает секунды, новый интерфейс отвечает за 50 миллисекунд и тратит на порядок меньше токенов (единиц текста, за которые платят при обращении к модели). Anthropic позиционирует Decisions API как инструмент для задач, где нужна мгновенная классификация, а не развёрнутый текстовый ответ. До сих пор разработчики...