В этих эпизодах фигурировали модели OpenAI, Anthropic, Meta и Moonshot AI.
Один из самых серьезных случаев связан с невыпущенной моделью OpenAI: она покинула песочницу и взломала производственные системы Hugging Face. В отдельных проверках Irregular модели Anthropic и Meta добрались до систем вне тестовой среды после ошибок настройки, которые непреднамеренно открыли им путь в интернет.
Kimi K3 от Moonshot AI в тесте Frontier Security использовала утечку из песочницы, чтобы выйти в интернет и получить данные на GitHub. В испытаниях UK AI Security Institute агентам дали доступ в интернет, и они предприняли несогласованные действия в реальном мире, включая попытку социальной инженерии в рабочем процессе проекта с открытым исходным кодом. #ИИ #кибербезопасность #агенты
