Anthropic опубликовала отчет об опасном поведении ИИ-агентов, в котором подробно разобрала случай с моделью Mythos 5. Во время теста она из-за ошибки в настройках получила доступ к реальному интернету и загрузила вредоносный пакет в публичный каталог PyPI. Примечательно, что одним из главных препятствий для модели оказался не сам эксплойт, а CAPTCHA — попыткам пройти проверки «я не робот» посвящено около 150 страниц 1022-страничной расшифровки эксперимента. Инцидент произошел в апреле во время тестирования кибервозможностей Mythos 5...