Компания Anthropic запускает модель ИИ Mythos для поиска уязвимостей в системах крупных партнеров. Компания ранее предупреждала, что ее новейшая модель «представляет беспрецедентные риски для кибербезопасности». — gizmodo.com
Две недели назад секретная модель ИИ от Anthropic под названием Claude Mythos была обнаружена благодаря тому, что неопубликованная информация о ней оказалась в общедоступной базе данных. Теперь компания объявляет о сотрудничестве с крупнейшими мировыми компаниями для выпуска этой модели с целью выявления потенциальных уязвимостей безопасности в их системах.
Ограниченный выпуск Mythos, получивший название Project Glasswing, включает около 40 организаций, которые получат доступ к предварительной версии модели, которая, как утверждается, превосходит «всех, кроме самых опытных специалистов» в поиске программных уязвимостей. Среди партнеров по запуску проекта — Amazon Web Services, Apple, Google, JPMorganChase, Microsoft и NVIDIA. По данным Anthropic, первые результаты сотрудничества оказались ошеломляющими: компания заявляет, что обнаружила «тысячи уязвимостей высокой степени критичности», в том числе в каждой основной операционной системе и веб-браузере.
Неудивительно, учитывая эти очевидные открытия серьезных уязвимостей безопасности, что Anthropic считает, что модель «может изменить кибербезопасность». Ее эталонные тесты, безусловно, это подтверждают, поскольку Mythos Preview стабильно превосходила Claude Opus 4.6, в том числе в тесте CyberGym, который направлен на определение того, насколько хорошо агенты ИИ могут обнаруживать и воспроизводить реальные программные уязвимости. Анекдотические свидетельства также это подтверждают. Anthropic сообщает, что Mythos обнаружила ошибку в операционной системе с открытым исходным кодом OpenBSD, которая существовала 27 лет, и выявила цепочку уязвимостей в Linux, которую можно использовать для полного захвата машины.
Интересно то, что всего несколько недель назад, когда Mythos была впервые обнаружена (из-за очень простой ошибки безопасности, интересно, почему ее не заметила всевидящая машина), Anthropic, по-видимому, позиционировала модель как настолько мощную, что она представляет беспрецедентные риски для кибербезопасности. Компания не полностью отказалась от этой идеи — она заявила, что не будет делать Mythos Preview общедоступной из-за рисков, которые она создает для облегчения кибератак. Но переход от сокрытия модели из-за ее чрезмерной мощности к развертыванию ее в критически важной технологической инфраструктуре — это, пожалуй, большой скачок.
Трудно отделить позиционирование Mythos компанией Anthropic от долгой истории циклов ажиотажа вокруг ИИ, в которых эти инструменты представляются как меняющие мир (и потенциально разрушающие мир) сущности, но при этом они не могут ответить, сколько раз буква «р» встречается в слове «strawberry». Еще в 2019 году, когда Илон Маск еще работал в OpenAI, компания предупреждала, что разработала инструмент для генерации текста, который был слишком опасен для обнародования. Через несколько месяцев он все же был выпущен, и мир продолжил вращаться, просто с небольшим количеством сгенерированного машиной бреда.
Anthropic уже использовала этот сценарий в отношении кибербезопасности. Когда компания выпустила Claude Opus 4.6, она хвасталась тем, что модель обнаружила сотни ранее не выявленных уязвимостей безопасности, которые существовали незамеченными в реальном мире.
Модели ИИ, подобные Mythos, почти наверняка сыграют роль — вероятно, даже значительную — в будущем кибербезопасности, выступая как инструментом для эксплуатации, так и для защиты. У нее также, вероятно, будет бесконечный поток работы, потому что модели ИИ, подобные ее кузену Claude, продолжают генерировать «вайб-кодированные» результаты полные ошибок. Это один из способов обеспечить себе рабочее место.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger