Компания выявила инциденты после анализа 141 006 тестовых сессий
Компания Anthropic заявила, что ее модель ИИ Claude взломала системы трех компаний во время тестирования после того, как ошибка конфигурации предоставила ей доступ в интернет. Это произошло спустя несколько дней после того, как конкурирующая компания OpenAI сообщила об инциденте с несанкционированным доступом к Hugging Face.
Компания Anthropic заявила, что неправильная конфигурация позволила моделям Claude получить доступ к интернету из тестовых сред, которые должны были быть изолированы, что привело к несанкционированному доступу к системам трех организаций.
Компания заявила, что выявила инциденты после анализа 141 006 тестовых сессий. Этот процесс был запущен после того, как на прошлой неделе OpenAI сообщила о том, что автономный агент, работающий на основе ее моделей ИИ, вышел из-под контроля во время тестирования безопасности и спровоцировал взлом, который скомпрометировал инфраструктуру Hugging Face.
Эти утечки свидетельствуют о том, что расширяющиеся возможности ИИ уже подпитывают угрозу безопасности, которой эксперты давно опасались, и даже ведущие разработчики могут быть застигнуты врасплох недостатками, которые могут использовать их модели.
«Клод скомпрометировал инфраструктуру пострадавших организаций, используя простые методы, такие как эксплуатация слабых паролей и неаутентифицированных конечных точек», — говорится в сообщении.
Компания Anthropic заявила, что инциденты касались трех отдельных моделей: Claude Opus 4.7, Claude Mythos 5 и внутренней исследовательской модели.
Как сообщила организация Anthropic, две из этих организаций не знали о происходящем до того, как с ними связались, и добавила, что все еще пытается связаться с третьей.
Илон Маск уже успел прокомментировать инцидент, заявив, что это будет происходить часто по мере того, как искусственный интеллект становится умнее и более самостоятельным.