Новые модели OpenAI, такие как o1 Preview и o1 Mini, значительно отличаются от предыдущих версий ChatGPT. Эти модели могут справляться с более сложными задачами, хотя их ответы могут занимать немного больше времени — до 20 секунд.
Главное, что нужно знать — o1 Preview и o1 Mini лучше реагируют на простые и четкие запросы, а не на длинные, структурированные команды, как в ChatGPT-4. Раньше мы часто использовали сложные инструкции, чтобы получить нужный результат, но с этими моделями достаточно давать ясные указания.
Совет: Старайтесь избегать фраз вроде «думай пошагово». Модели уже сами умеют строить внутреннюю цепочку рассуждений, и дополнительная инструкция может только замедлить их работу.
Тем не менее, важно использовать разделители, такие как кавычки или теги, чтобы четко отделить разные части запроса. Это помогает моделям лучше понимать контекст.
Когда дело касается задач с дополнительным контекстом, например, в retrieval-augmented generation (RAG), лучше включать только самую важную информацию, чтобы модель не усложняла ответ.
Контекст: Модели могут обрабатывать до 128 000 токенов, но даже внутренние размышления модели, называемые «reasoning tokens», учитываются в этом лимите.
Скорее всего, вы уже видели информацию о том, как работать с новыми моделями. И хотя они действительно впечатляют, до создания искусственного общего интеллекта (AGI) нам еще далеко.
Главное улучшение в этих моделях — их способность к рассуждению. Тесты показывают, что модели могут работать на уровне PhD, превосходя человеческих экспертов в таких областях, как химия, физика и биология.
Модели используют так называемые «reasoning tokens» для анализа задачи, после чего производят видимые токены с ответом, а затем удаляют свои внутренние рассуждения.
Новые модели уже впечатляют, но OpenAI продолжит их совершенствовать. Пока что мы можем наслаждаться их возможностями и экспериментировать с тем, как они работают.
Как вы используете новые модели OpenAI? Делитесь своим опытом в комментариях и не забывайте подписаться, чтобы быть в курсе всех новостей о технологиях!