Пентагон рассматривает возможность разрыва связей с Anthropic и признания ее риском для цепочки поставок. Этот шаг потребует от всех, кто ведет бизнес с американскими военными, разорвать отношения с ИИ-компанией. — gizmodo.com
Напряженность, похоже, нарастает между Пентагоном и Anthropic — единственной компанией, которая пытается сохранить публичный имидж, стремясь создавать безопасные и этичные ИИ-системы.
Как сообщило в понедельник Axios, министр обороны Пит Хегсет намерен не только разорвать деловые связи Министерства обороны с Anthropic, но и признать фирму по разработке ИИ риском для цепочки поставок. По словам неназванного высокопоставленного представителя Пентагона, такое обозначение вынудит любого подрядчика, желающего работать с американскими военными, разорвать связи с Anthropic, что создаст гораздо более серьезные финансовые проблемы для стартапа.
«Распутаться будет невероятно сложно, и мы позаботимся о том, чтобы они заплатили цену за то, что поставили нас в такое положение», — заявил источник Axios.
По всей видимости, спор возник из-за нежелания Anthropic разрешать неограниченное военное использование своих ИИ-систем. В настоящее время модели Anthropic являются единственными инструментами ИИ, доступными внутри засекреченных военных систем через сторонних поставщиков, таких как Palantir Technologies, и даже в этом случае они поставляются с некоторыми ограничениями. Ранее Reuters сообщало, что руководители Anthropic заявили военным чиновникам, что они не хотят, чтобы их системы использовались для наведения автономного оружия или для внутренней слежки.
Пентагон также оказывает давление на другие компании, разрабатывающие ИИ, включая Google, OpenAI и xAI, с целью получения разрешения на использование их моделей для «всех законных целей». На данный момент неясно, готовы ли эти компании.
На прошлой неделе OpenAI объявила о предоставлении специализированной версии ChatGPT через корпоративную ИИ-платформу ведомства GenAI.mil. Система, запущенная в декабре, используется примерно 3 миллионами гражданских и военных служащих и уже включает адаптированные версии инструментов от xAI и Gemini от Google. Claude от Anthropic не был добавлен на платформу.
Источник в Пентагоне ранее сообщил Axios, что Anthropic является самой «идеологически настроенной» среди ИИ-компаний, с которыми он работает.
Напряженность знаменует собой резкий сдвиг по сравнению с прошлым летом, когда Anthropic праздновала сделку на сумму до 200 миллионов долларов с Министерством обороны. В то время компания заявила, что эта награда открыла «новую главу в приверженности Anthropic поддержке национальной безопасности США».
Однако в последнее время генеральный директор Дарио Амодеи предупреждал о рисках, связанных с военным и государственным использованием ИИ.
«Нам, в некотором смысле, нужно быть защищенными от ИИ, и кто-то должен держать кнопку управления роем дронов, что вызывает у меня большую обеспокоенность, а такого надзора сегодня не существует», — заявил Амодеи на прошлой неделе во время выступления в подкасте New York Times Interesting Times with Ross Douthat.
Anthropic не сразу ответила на запрос о комментарии.
«Отношения Министерства войны с Anthropic пересматриваются. Нации требуется, чтобы наши партнеры были готовы помочь нашим воинам побеждать в любой борьбе, — сообщил Gizmodo в электронном письме главный пресс-секретарь Пентагона Шон Парнелл. — В конечном счете, речь идет о наших войсках и безопасности американского народа».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Bruce Gil