Разработчики пока не открыли доступ к модели, потому что она настолько совершенна, что способна навсегда изменить IT-рынок.
Небольшая команда исследователей из фирмы по кибербезопасности Calif обошла флагманский защитный механизм macOS с помощью Claude Mythos Preview — и уложилась в пять дней. На разработку этой защиты у Apple ушло пять лет. О произошедшем сообщил The Wall Street Journal со ссылкой на отчет компании.
Речь идет о механизме Memory Integrity Enforcement (MIE) — системе аппаратной защиты памяти, которую Apple представила в прошлом году как «кульминацию беспрецедентных дизайнерских и инженерных усилий, занявших полдесятилетия». MIE построена на спецификации ARM Memory Tagging Extension 2019 года: каждый блок памяти получает метку, и процессор физически блокирует любой доступ, при котором метки не совпадают. До этой недели механизм ломал все публично известные цепочки эксплойтов для современных устройств Apple.
Американцы против искусственного интеллекта: власти запрещают строительство дата-центров для нужд ИИ
Атака развивалась так: 25 апреля исследователи случайно наткнулись на первую уязвимость, к 27-му к работе подключился второй участник команды, а к 1 мая цепочка эксплойта уже работала. Эксплойт нацелен на macOS 26 на чипе M5 и стартует с обычного непривилегированного аккаунта.
Два найденных бага были связаны в цепочку: через один удалось повредить данные в памяти, через второй — получить доступ к защищенным областям системы. Это атака повышения привилегий: сама по себе она не компрометирует устройство, но в связке с другими эксплойтами открывает хакеру полный контроль над машиной.
ИИ при этом сыграл роль ускорителя, а не автономного взломщика. Гендиректор Calif Тай Дуонг подчеркнул, что для сборки эксплойта потребовалась экспертиза живых исследователей. Рецензировавший работу бывший исследователь Google Михал Залевски отметил, что хайп вокруг Mythos может быть отчасти преувеличен, однако современные инструменты вполне пригодны для серьезного поиска уязвимостей и аудита кода. Суть не в том, что ИИ всесилен, а в том, что работа, на которую прежде уходили месяцы, теперь занимает дни.
Apple получила 55-страничный отчет и сейчас его изучает; патчи ожидаются после верификации данных. Полные технические детали эксплойта Calif обещает раскрыть после выхода исправлений.
История вышла за рамки одного CVE. По данным WSJ, произошедшее заставило администрацию Белого дома пересмотреть позицию невмешательства в разработку ИИ: сейчас рассматривается указ, который введет государственный надзор над наиболее продвинутыми моделями.
Но переживать из-за взломов не стоит. Модели пока нет в открытом доступе и абсолютно очевидно, что когда она появится, самые очевидные дыры безопасности в популярных продуктах будут устранены. А общий уровень безопасности популярных решений станет значительно выше.
Так что противостояние хакеров и крупных корпораций продолжится. Изменятся только инструменты, которыми пользуются и те, и другие.