Гендиректор Anthropic решительно выступил против требований Пентагона об отключении защитных механизмов Claude. Anthropic занимает твердую позицию против массовой слежки и автономных систем убийства, утверждая, что первое недемократично, а передовой ИИ еще не готов ко второму. — tomshardware.com
Компания Anthropic опубликовала заявление, в котором отказалась ослабить защитные механизмы Claude по требованию Министерства юстиции. Пентагон дал Anthropic срок до пятницы для выполнения требований, угрожая расторгнуть контракт на 200 миллионов долларов, а также более серьезными последствиями, такими как присвоение статуса риска для цепочки поставок. Компания не стала укладываться в срок, и ее генеральный директор Дарио Амодей заявил, что не может «со спокойной совестью» принять требования Министерства обороны (DoD).
Существуют два основных пункта разногласий — массовая внутренняя слежка и полностью автономное оружие, — по которым Anthropic заняла твердую позицию. Компания утверждает, что мониторинг американских граждан в целом недемократичен и подрывает личную свободу. Компания добавляет, что слежка с помощью ИИ опасна и допускается лишь потому, что правовая база еще не успела за развитием технологий.
Генеральный директор привел пример того, как правительство может приобрести данные о любом гражданине без ордера: электронные письма, историю просмотров, перемещения и многое другое. Эта информация разрознена и часто поверхностна, но ИИ может помочь собрать ее в связный профиль. Эта практика уже вызывает споры еще до привлечения искусственного интеллекта, поэтому Anthropic не позволит Claude стать инструментом в этом процессе.
Компания далее заявляет, что передовой ИИ (Frontier AI) не готов к использованию полностью автономного оружия, поскольку не способен принимать решения, свойственные человеку. «Мы не будем сознательно предоставлять продукт, который ставит под угрозу американских военнослужащих и гражданских лиц», — заявил Амодей. По мнению Anthropic, частично беспилотное оружие «жизненно важно для защиты демократии», но пока нельзя доверять ИИ выбор и уничтожение целей самостоятельно.
Anthropic предложила провести исследования и разработки для повышения надежности этих систем — в тех случаях, когда ИИ можно будет достаточно доверить автоматическое применение силы против целей, — но Министерство обороны отклонило это предложение. «[Они] должны быть развернуты с надлежащими защитными механизмами, которых сегодня не существует», — утверждала Anthropic, имея в виду, что ни одна модель ИИ не может имитировать опытного солдата.
Оба этих пункта обозначены Anthropic как «исключения» в ее в целом активной поддержке сотрудничества с Пентагоном. На протяжении всего заявления компания повторяет о своем желании «продолжать служить Департаменту и нашим военнослужащим — при условии соблюдения двух запрошенных нами мер безопасности».
Последствия отказа ослабить защитные механизмы не ограничиваются только отменой действующего контракта. Министр обороны Пит Хегсет заявил об угрозе присвоить компании статус риска для цепочки поставок — обозначение, зарезервированное для враждебных структур, которое никогда ранее не применялось к американской компании. Более того, это вызовет серьезные финансовые опасения и для Anthropic.
Пентагон также пригрозил применить Закон о производстве оборонной продукции (Defense Production Act) в отношении Anthropic, что, по словам Амодея, противоречит предыдущему заявлению Департамента о «риске для цепочки поставок». Согласно этому закону, любая частная компания в США может быть вынуждена отдать приоритет обслуживанию правительства, поскольку ее продукция считается слишком важной для национальной безопасности.
Anthropic, похоже, не испугалась ни одной из угроз, и призывает Министерство обороны пересмотреть свою позицию. В вероятном случае отзыва федерального контракта Anthropic по-прежнему будет «работать над обеспечением плавной передачи другому поставщику», чтобы избежать перебоев в военной деятельности. Это первый случай, когда компания, занимающаяся ИИ, заняла столь твердую позицию против действующей администрации, и реакция в онлайн-кругах была в основном положительной.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassam Nasir