16 подписчиков
🧠OpenAI представляет GPT-4o mini, меньшую и более дешевую модель ИИ
Подробный разбор
OpenAI представила GPT-4o mini в четверг, свою последнюю небольшую модель ИИ. Компания заявляет, что GPT-4o mini, которая дешевле и быстрее текущих передовых моделей ИИ OpenAI, выпускается для разработчиков, а также через веб и мобильное приложение ChatGPT для потребителей. Корпоративные пользователи получат доступ на следующей неделе.
Компания утверждает, что GPT-4o mini превосходит ведущие в отрасли небольшие модели ИИ в задачах рассуждения, связанных с текстом и изображениями. По мере улучшения небольших моделей ИИ они становятся все более популярными среди разработчиков благодаря своей скорости и экономической эффективности по сравнению с более крупными моделями, такими как GPT-4 Omni или Claude 3.5 Sonnet. Они являются полезным вариантом для выполнения простых задач в больших объемах, которые разработчики могут многократно выполнять с помощью модели ИИ.
GPT-4o mini заменит GPT-3.5 Turbo как самую маленькую модель, предлагаемую OpenAI. Компания утверждает, что ее новейшая модель ИИ набирает 82% на MMLU, эталоне для измерения рассуждения, по сравнению с 79% для Gemini 1.5 Flash и 75% для Claude 3 Haiku, согласно данным Artificial Analysis. На MGSM, который измеряет математические рассуждения, GPT-4o mini набрала 87%, по сравнению с 78% для Flash и 72% для Haiku.
Кроме того, OpenAI заявляет, что GPT-4o mini значительно дешевле в эксплуатации, чем предыдущие передовые модели, и более чем на 60% дешевле, чем GPT-3.5 Turbo. Сегодня GPT-4o mini поддерживает текст и изображения в API, и OpenAI заявляет, что модель будет поддерживать видео и аудио возможности в будущем.
«Для того чтобы каждый уголок мира мог пользоваться ИИ, мы должны сделать модели гораздо более доступными», — сказал руководитель Product API OpenAI Оливье Годемент в интервью TechCrunch. «Я думаю, что GPT-4o mini — это действительно большой шаг в этом направлении».
Для разработчиков, работающих с API OpenAI, GPT-4o mini стоит 15 центов за миллион входных токенов и 60 центов за миллион выходных токенов. Модель имеет контекстное окно размером 128 000 токенов, примерно равное длине книги, и ограничение знаний на октябрь 2023 года.
OpenAI не раскрывает точный размер GPT-4o mini, но утверждает, что он находится примерно на одном уровне с другими небольшими моделями ИИ, такими как Llama 3 8b, Claude Haiku и Gemini 1.5 Flash. Однако компания заявляет, что GPT-4o mini быстрее, экономичнее и умнее, чем ведущие в отрасли маленькие модели, согласно предварительным тестам в арене чатботов LMSYS.org. Ранние независимые тесты, похоже, это подтверждают.
«По сравнению с сопоставимыми моделями, GPT-4o mini очень быстрый, со средней скоростью вывода 202 токена в секунду», — сказал Джордж Кэмерон, соучредитель Artificial Analysis, в электронном письме TechCrunch. «Это более чем в 2 раза быстрее, чем GPT-4o и GPT-3.5 Turbo и представляет собой привлекательное предложение для случаев использования, зависящих от скорости, включая многие потребительские приложения и агентские подходы к использованию LLM».
2 минуты
19 июля