В США появляются новые подробности запрета нейросети Mythos от Anthropic: по данным The Economist, во время тестовой проверки модель смогла

В США появляются новые подробности запрета нейросети Mythos от Anthropic: по данным The Economist, во время тестовой проверки модель смогла за несколько часов пробить почти все закрытые системы Агентства национальной безопасности США.

На это публично сослался зампред комитета Сената США по разведке Марк Уорнер. По его словам, глава АНБ и Киберкомандования США генерал Джошуа Радд рассказал ему, что Mythos «взломала почти все наши засекреченные системы — не за недели, а за часы».

Именно этот эпизод, как пишет The Economist, может объяснять, почему власти США в середине июня потребовали от Anthropic отключить доступ к своим самым мощным моделям Fable 5 и Mythos 5. До этого Вашингтон ссылался на угрозы национальной безопасности, но конкретная причина публично не раскрывалась.

12 июня была задействована директива экспортного контроля. Под ограничения попали не только потенциальные противники США, но и ближайшие союзники Вашингтона по разведывательному альянсу Five Eyes — Великобритания, Канада, Австралия и Новая Зеландия. Доступ потерял и британский Институт безопасности искусственного интеллекта, который считается одним из ведущих мировых центров по тестированию и взлому новых ИИ-моделей.

Источник в Anthropic сообщил, что компании приказали закрыть доступ к моделям для иностранных граждан из-за неуказанной угрозы национальной безопасности. Поскольку технически отделить таких пользователей в реальном времени оказалось невозможно, Anthropic отключила обе модели для всех.

Mythos описывается не как обычный чат-бот, а как специализированная фронтирная модель для работы с крупными и сложными кодовыми базами. В рамках Project Glasswing её, по данным источников, создавали как инструмент для анализа программного кода и поиска уязвимостей.

В технических материалах о модели утверждалось, что Mythos способна автоматически находить уязвимости нулевого дня, анализировать ядра операционных систем, браузеры и инфраструктурный код, а также выстраивать каскадные цепочки из нескольких небольших ошибок, которые по отдельности не выглядят критическими, но вместе дают полный доступ к системе.

Именно эта логика, как отмечают специалисты, делает такие модели особенно опасными для старой государственной инфраструктуры. Если раньше закрепление злоумышленника в системе могло занимать часы, то ИИ-агенты уровня Mythos сокращают этот процесс до минут или секунд.

При этом сама Anthropic, по данным The Economist, настаивает, что использованные техники выявили лишь «небольшое число ранее известных, незначительных уязвимостей», которые могли бы найти и конкурирующие ИИ-модели. В компании также утверждают, что работали с правительством США на этапе предварительного тестирования, и тогда чиновники не выдвигали претензий по линии национальной безопасности.

Часть экспертов считает, что спецслужбы союзников со временем вернут доступ к Mythos через отдельные переговоры, но частным компаниям сделать это будет сложнее. Хелен Тонер из Центра безопасности и новых технологий Джорджтаунского университета предупреждает, что запрет на доступ к моделям для иностранных граждан фактически может парализовать дальнейшие исследования в пострадавших ИИ-компаниях, где работает много специалистов не из США.

The Economist сравнивает происходящее с прежними американскими ограничениями на экспорт криптографии, а также с ядерной политикой США после Второй мировой войны. Тогда Вашингтон резко ограничил обмен ядерными технологиями даже с ближайшими союзниками, включая Великобританию.

🟪Читай в Max | 🚀Читай в Telegram | 🥰Смотри на RUTUBE