3389 подписчиков
Компания Anthropic представила новый API для обработки больших объемов запросов.
Batches API позволяет отправлять пакеты до 10 000 запросов за раз, которые будут обработаны в течение 24 часов. При этом стоимость таких пакетных запросов на 50% ниже, чем стандартные API-вызовы.
Новый API ориентирован на пользователей, которым нужно обрабатывать большие объемы данных, например, для анализа документов. Это позволит сократить затраты и сделать процесс более удобным.
Гайд по оплате Нейросетей
Около минуты
9 октября 2024