Теперь разработчики могут напрямую интегрировать ChatGPT, используя систему ценообразования на основе токенов, в множество различных корпоративных приложений и приложений для конечных пользователей.
Microsoft предоставляет ChatGPT AI large language model в качестве компонента для приложений в рамках Azure OpenAI Service, что позволяет разработчикам интегрировать эту модель в множество корпоративных и пользовательских приложений.
Microsoft уже имеет несколько пользователей, работающих с этой интеграцией, в том числе ODP Corporation (материнская компания Office Depot и OfficeMax), Smart Nation Digital Government Office Сингапура и поставщик программного обеспечения для управления контрактами Icertis.
Разработчики, использующие Azure OpenAI Service, могут использовать ChatGPT для добавления различных функций в приложения, таких как резюмирование разговоров в колл-центрах, автоматизация обработки заявок и даже создание новых рекламных объявлений с персонализированным контентом, среди прочего.
Генеративный ИИ, такой как ChatGPT, уже используется для улучшения продуктов Microsoft. Например, согласно заявлению компании, премиальная версия Teams может использовать ИИ для создания глав в разговорах и автоматически создаваемых резюме, а Viva Sales может предложить руководство, основанное на данных, и предложить контент электронных писем, чтобы помочь командам связаться со своими клиентами.
Для ChatGPT в Azure OpenAI Service действует система ценообразования на основе токенов: один токен покрывает примерно четыре символа запроса на английском языке, средний параграф содержит около 100 токенов, а эссе на 1 500 слов — около 2048 токенов. По словам Jyoti, одной из причин, по которой приложения на основе GPT-3 стали популярнее, как раз перед тем, как ChatGPT стал вирусным, было снижение цен от фонда OpenAI до примерно 0,02 доллара за 1000 токенов.
ChatGPT через Azure стоит еще дешевле, $0,002 за 1000 токенов, что делает эту услугу потенциально более экономичной, чем использование собственной крупномасштабной модели языка, добавила Jyoti.