Генеральный директор компании Anthropic Дарио Амодей (Dario Amodei) опубликовал заявление о разногласиях с Министерством обороны США по поводу использования систем искусственного интеллекта в военных целях. По его словам, компания не готова отказаться от ключевых ограничений, касающихся массовой слежки и полностью автономного оружия.
Амодей подчеркнул, что считает применение ИИ для защиты демократических стран «экзистенциально важным». По его словам, Anthropic одной из первых среди крупных разработчиков разместила свои модели в засекреченных сетях правительства США, в национальных лабораториях и предоставила специальные версии для задач национальной безопасности. Системы компании используются для анализа разведданных, моделирования, оперативного планирования и киберопераций.
Глава Anthropic также отметил, что компания сознательно жертвовала прибылью ради защиты технологического лидерства США. В частности, отказалась от контрактов на сотни миллионов долларов с организациями, связанными с Коммунистической партией Китая, и поддержала экспортные ограничения на передовые чипы.
При этом Амодей подчеркнул, что Anthropic не вмешивается в принятие военных решений и не пытается ограничивать использование своих технологий в конкретных операциях. Однако, по его словам, существуют два направления, в которых применение ИИ противоречит демократическим ценностям или выходит за пределы надёжности современных технологий.
Первое — это массовое наблюдение за гражданами. Компания поддерживает использование ИИ для законной внешней разведки, но считает несовместимым с демократическими принципами сбор и анализ данных о перемещениях, интернет-активности и социальных связях населения в масштабах всей страны. Амодей отметил, что современные алгоритмы позволяют объединять разрозненную информацию в подробные профили отдельных людей, что создаёт серьёзные риски для частной жизни.
Второе направление — полностью автономное оружие, способное самостоятельно выбирать и поражать цели без участия человека. По мнению Anthropic, современные ИИ-системы недостаточно надёжны для таких задач. Компания заявила, что не будет поставлять продукты, которые могут поставить под угрозу военных и гражданских лиц, и указала на отсутствие эффективных механизмов контроля за подобными системами.
По словам Амодея, Министерство обороны потребовало от разработчиков согласия на «любое законное использование ИИ, включая указанные направления». В ответ ведомство, как утверждается в заявлении, пригрозило прекратить сотрудничество с Anthropic, признать компанию «риском для цепочки поставок» и даже применить Закон об оборонном производстве для снятия ограничений.
Глава Anthropic назвал такие требования противоречивыми и заявил, что компания не может согласиться с ними «по соображениям совести». При этом он подчеркнул готовность продолжать сотрудничество с военными структурами при сохранении защитных механизмов. В случае прекращения контракта компания обещает обеспечить плавный переход к другому поставщику без сбоев в текущих операциях.
В заключение Амодей заявил, что Anthropic по-прежнему готова поддерживать национальную безопасность США, но только в рамках принципов, которые, по его словам, не подрывают гражданские свободы и не создают неконтролируемых рисков.