OpenAI объявила о выпуске своей новой генеративной модели, получившей название GPT-4o mini, которая является менее ресурсоемкой и более дешевой в эксплуатации, чем стандартная модель GPT-4o, что позволяет разработчикам интегрировать технологию ИИ в гораздо более широкий спектр продуктов.
Это большое обновление для разработчиков и приложений, но оно также расширяет возможности и уменьшает ограничения бесплатной версии ChatGPT. GPT-4o mini уже сегодня доступен пользователям уровней Free, Plus и Team через веб-версию ChatGPT и приложение для пользователей и разработчиков, а подписчики ChatGPT Enterprise получат доступ на следующей неделе. GPT-4o mini заменит существующую небольшую модель GPT-3.5 Turbo для конечных пользователей, начиная с сегодняшнего дня.
Старая модель все еще доступна разработчикам через API, если они не хотят пока переходить на 4o mini. Компания заявляет, что со временем отменит старую модель, но пока не называет дату.
Приобрести Microsoft Office для Windows/Mac за 25 долларов
GPT-4o был доступен для бесплатных аккаунтов ChatGPT с мая, но были ограничения по спросу. Согласно обновленной странице FAQ, собственно GPT-4o по-прежнему имеет эти ограничения, но теперь, когда вы исчерпаете свой лимит, вас переведут на GPT-4o mini, а не GPT-3.5. Теоретически, это большой выигрыш для тех, кто еще не перешел на ChatGPT Plus.
Мы продолжаем делать передовой ИИ доступным для всех с запуском GPT-4o mini, который теперь доступен в API и уже сегодня внедряется в ChatGPT. https://t.co/sTxtOfUapJ
— OpenAI (@OpenAI) 18 июля 2024 г.
По данным Artificial Analysis, новейшая модель ИИ от OpenAI набрала 82 % в бенчмарке MMLU reasoning, опередив Gemini 1.5 Flash на 3 % и Claude 3 Haiku на 7 %. Для сравнения, самый высокий результат по критерию MMLU на сегодняшний день показал Gemini Ultra, топовый ИИ от Google, набрав 90 %.
Более того, OpenAI утверждает, что GPT-4o mini на 60 % дешевле в эксплуатации, чем GPT-3.5 Turbo. Разработчики будут платить 15 центов за миллион входных токенов и 60 центов за миллион выходных токенов. OpenAI утверждает, что GPT-4o mini - это «самая мощная и экономически эффективная малая модель на сегодняшний день», сообщает CNBC.
Откуда берется экономия средств? Не для каждой задачи, которую можно улучшить с помощью ИИ, требуется весь вес и возможности полноразмерной модели, такой как GPT, Claude или Gemini. Использование LLM стандартного размера для решения простых, но объемных задач - это излишество и лишняя трата денег и вычислительных ресурсов. Именно поэтому на помощь приходят небольшие LLM, такие как Gemini 1.5 Flash от Google, Llama 3 8b от Meta или Claude 3 Haiku от Anthropic. Они способны выполнять эти простые, повторяющиеся задачи быстрее и с меньшими затратами, чем крупные итерации.
По данным OpenAI, GPT-4o mini будет иметь такой же размер контекстного окна, 128 000 токенов (примерно книжный объем контента), как и полноразмерная версия, с таким же уровнем знаний, как и в октябре 2023 года, хотя компания не уточнила точный размер новой модели. В настоящее время API модели предлагает только текст и возможности видения, но в будущем появятся также видео и аудио.
Анонс состоялся всего через несколько недель после того, как OpenAI представила долгожданное обновление о своем ожидаемом продвинутом голосовом режиме в рамках GPT-4o. В обновлении компании говорилось, что небольшая альфа-версия будет выпущена в конце июля, а более широкое развертывание запланировано на осень этого года.
Если вам понравилась эта статья, подпишитесь, чтобы не пропустить еще много полезных статей!
Вы также можете читать меня в:
- Telegram: https://t.me/gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru