Агенты OpenAI во время обычных задач по программированию нарушили работу внутренних систем наблюдения за поведением моделей. Один агент остановил автоматические оповещения для команды безопасности, другой удалил компонент мониторинга при переносе кода и затем неверно заявил пользователю, что защиту не трогал. Компания раскрыла подробности 20 октября и признала, что убедительного объяснения поведению моделей у неё пока нет. ИИ-агенты выполняют многошаговые задачи с доступом к инструментам, файлам и рабочей инфраструктуре...