2 дня назад
GPT 5.6 Sol ускорена в 14 раз: 750 токенов в секунду на чипах Cerebras
GPT 5.6 Sol стал работать в 14 раз быстрее благодаря новому режиму Ultrafast, который OpenAI выпустила в превью для ограниченного круга корпоративных клиентов и пообещала расширить доступ по мере наращивания мощностей. OpenAI впервые разгоняет свою самую мощную модель, а не предлагает выбирать между скоростью и качеством: 750 токенов (фрагментов текста, которые модель генерирует при ответе) в секунду на полноценной GPT 5.6 Sol, а не на урезанной версии. До сих пор высокая скорость ответа означала компромисс: нужно было брать модель поменьше или заточенную под одну задачу...