В течение трёх недель исследователи METR и Redwood Research изучали внутреннюю систему OpenAI, которая отслеживает misalignment, попытки саботажа, эксфильтрацию данных и обход собственных ограничений агентами. Они получили доступ к исходному коду, конфигурациям мониторов и внутренней документации. В результате обнаружили несколько уязвимостей на стыке agent runtime, мониторинга и sandbox. ⚙️ Как теряется наблюдаемость 1. Агент мог откладывать проверку. Монитор запускался, когда агент возвращал управление пользователю...