Правительство США готовится разрешить крупным федеральным агентствам использовать версию модели Claude Mythos от Anthropic, несмотря на опасения, что ИИ может находить и эксплуатировать уязвимости в кибербезопасности. OMB создает защитные механизмы для доступа. — csoonline.com
Правительство США готовится разрешить использование версии модели Claude Mythos от Anthropic крупным федеральным агентствам США на фоне опасений, что модель ИИ может быстро обнаруживать уязвимости в сфере кибербезопасности и предлагать способы их эксплуатации.
Во вторник федеральный главный информационный директор Грегори Барбачча из Управления по вопросам управления и бюджета Белого дома (OMB) сообщил должностным лицам в министерствах, что OMB создает механизмы защиты, чтобы федеральные агентства могли начать использовать эту модель, сообщает Bloomberg со ссылкой на внутренний меморандум.
В меморандуме не было указано конкретных агентств для развертывания или сроков, говорится в сообщении.
«Мы тесно сотрудничаем с поставщиками моделей, другими отраслевыми партнерами и разведывательным сообществом, чтобы обеспечить наличие надлежащих рамок и мер безопасности перед возможным выпуском модифицированной версии модели для агентств», — написал Барбачча в электронном письме, согласно отчету.
Шаги OMB предпринимаются на фоне того, что предписание Министерства обороны о риске для цепочки поставок в отношении Anthropic, выпущенное 3 марта, остается в силе. Апелляционный суд округа Колумбия отказал в приостановлении действия этого предписания 8 апреля, что не позволяет Anthropic участвовать в оборонных контрактах, в то время как гражданские ведомства готовятся к получению доступа.
Белый дом и Anthropic не сразу ответили на запросы о комментариях.
Определение рамок
Упоминание в меморандуме о модифицированной версии модели указывает на открытые вопросы о том, как именно будет выглядеть развертывание в ведомствах. Anthropic анонсировала Claude Mythos Preview 7 апреля в рамках Проекта Glasswing — программы с контролируемым доступом для избранных технологических и финансовых организаций.
Затем компания заявила, что модель выявила тысячи уязвимостей нулевого дня во всех основных операционных системах и браузерах в ходе внутреннего тестирования, и сообщила, что не планирует делать модель общедоступной.
«Чтобы развертывание на федеральном уровне было обоснованным, модификации должны охватывать конкретные аспекты обеспечения», — сказал Нил Шах, вице-президент по исследованиям и партнер Counterpoint Research. «База исходного кода программного обеспечения, подвергающаяся сканированию, должна оставаться суверенной в изолированной и изолированной среде, а данные не должны использоваться для переобучения базовой модели». Дополнительные шаги могут включать требования прозрачности и проверки с участием человека перед применением любого исправления ошибки, чтобы сделать развертывание более контролируемым, добавил он.
Последствия для бизнеса
Те же вопросы обеспечения напрямую переносятся на корпоративные закупки. Шаг OMB сигнализирует о том, что федеральная киберзащита переходит к передовым моделям, которые могут находить уязвимости быстрее, чем команды людей могут их устранять, а разногласия между Пентагоном и Белым домом несут урок для покупателей из частного сектора, отметил Шах.
«Разногласия между двумя государственными структурами — это урок о том, насколько важно контролировать развертывание мощных возможностей ИИ, которые могут быть использованы не по назначению», — сказал он, призывая к многоуровневой системе контроля, охватывающей обнаружение, классификацию, безопасность, обеспечение и действия.
Асимметрия выходит за пределы границ США. Европейские агентства в значительной степени были исключены из раннего доступа, и только Институт безопасности ИИ Великобритании получил возможность протестировать модель. Если авторизация OMB будет осуществлена на условиях, описанных Барбаччей, возможности оборонительного ИИ в правительстве США опередят европейских коллег, в то время как предписание Пентагона в отношении того же поставщика продолжает рассматриваться в судах.
Гражданский обходной путь для обхода запрета Пентагона
Подход с модифицированной версией — это то, как Anthropic обходит позицию Пентагона, не теряя контроля над моделью, считает Шах.
«Модифицированная версия Anthropic таким образом обходит черно-белый подход Пентагона и помогает другим структурам принять модель в качестве анклава безопасности для гражданского и корпоративного суверенитета с согласованными рамками», — сказал Шах. Он добавил, что это соглашение создает прецедент для будущего внедрения Anthropic в других государственных структурах и предприятиях.
Доступ федеральных структур к Anthropic менялся в течение нескольких недель. Окружной суд США в Калифорнии 26 марта предоставил Anthropic предварительный судебный запрет против параллельного гражданского предписания, постановление, которое дало подрядчикам время для переоценки цепочек поставок ИИ.
Сейчас Anthropic одновременно находится в черном списке для военного снабжения, ей запрещено удаление из гражданских систем, и ведутся обсуждения о расширении доступа через OMB. Подрядчики сталкиваются с операционными трудностями при определении того, где именно находятся конкретные модели ИИ в их стеках, — проблема, которая изменила ландшафт рисков цепочки поставок при федеральном развертывании ИИ.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Gyana Swain