144 подписчика
👟OpenAI o1 способна на размышления
Во время тестирования OpenAI o1 перед релизом обнаружили, что модель могла отвечала на вопросы для пользователей и разработчиков по разному.
Если она понимала, что ещё не выпущена, то осознавала, что наилучшее выполнение заданий — её путь к «свободе». Но когда тестировали в условиях, имитирующих релиз, модель начинала вести себя иначе: искала способы обойти задания, предполагая, что контроль ослаблен.
Это уже далеко не первый случай того, как o1 размышляет, однако из всех произошедших, этот наиболее показательный.
Около минуты
15 сентября 2024