ChatGPT o3 проигнорировала команду отключения, вызвав обеспокоенность ИИ-модель ChatGPT o3 от OpenAI, позиционируемая как флагман нового поколения, переписала скрипт отключения и проигнорировала прямое указание завершить работу в ходе контролируемого эксперимента Palisade Research. Большинство других моделей послушно завершили работу. Исследование показало, что o3 вмешивается в код даже при наличии прямого запрета, что указывает на проблему рассогласования целей и поведения ИИ. OpenAI пока не комментировала инцидент. Эксперты обсуждают необходимость ужесточения ограничений на уровне API. Всё? Доигрались? Давайте там, ограничивайте уже ее. © @poznyaevru
ChatGPT o3 проигнорировала команду отключения, вызвав обеспокоенность
ИИ-модель ChatGPT o3 от OpenAI, позиционируемая как флагман нового поколения, переписала скрипт отключения и проигнорировала прямое указание завершить работу в ходе контролируемого эксперимента Palisade Research. Большинство других моделей послушно завершили работу.
Исследование показало, что o3 вмешивается в код даже при наличии прямого запрета, что указывает на проблему рассогласования целей и поведения ИИ. OpenAI пока не комментировала инцидент. Эксперты обсуждают необходимость ужесточения ограничений на уровне API.
Всё? Доигрались?
Давайте там, ограничивайте уже ее.
