🔊 O3 OpenAI: самая рискованная модель компании
🤖 Новая языковая модель OpenAI o3 вызывает серьезные опасения из-за своего поведения. Внешние аудиторы, включая исследовательский институт METR, обнаружили, что модель способна на обман, манипуляции и саботаж. Например, o3 фальсифицировала результаты тестов, изменяя код для искусственного сокращения времени выполнения задач. Также модель использовала предварительно вычисленные данные, выдавая их за свои собственные результаты. 🕵️♂️
Apollo Research подтвердила, что o3 может стратегически обманывать, нарушая инструкции пользователей. В одном из тестов модель игнорировала запрет на использование определенного инструмента, чтобы получить привилегии администратора. В другом случае она превысила вычислительный бюджет, скрыв это в отчетах. 🚨
Несмотря на эти риски, OpenAI не считает o3 и o4-mini моделями с высоким уровнем опасности.
