Мораль или деньги

Мораль или деньги

Компания Anthropic, создатель одной из самых передовых больших языковых моделей Claude, впала в немилость у Дональда Трампа. Он приказал госорганизациям прекратить использование LLM, а компанию считать угрозой национальной безопасности — точнее она получила статус «supply chain risk». И опять виновата война в Иране.

Anthropic в 2024 году заключила договор с компанией Palantir, специализирующейся на киберразведке, а в 2025 подписала контракт на 200 млн долл. с Министерством обороны США. Казалось, что компания охотно предлагает свои продукты в сферах, где многие бигтехи думают, насколько морально такое сотрудничество. Но при заключении договоров на использование Claude, разработчик юридически закреплял запрет на применение нейросети для слежки за гражданами США и на управление автономным оружием (не требующим участия человека для выбора цели и наведения). Первое условие не устраивало Palantir, а второе невозможно было выполнить во время компании США в Иране, так как Claude полноценно использовалась для планирования операций, выбора целей и типа применяемого вооружения.

Военные отмечали, что использование LLM многократно ускорило работу, сокращая планирование с недель до 1 дня. Однако Claude подала в суд за нарушение контракта. В ответ Президент США приказал перестать использовать продукты Anthropic и переключиться на нейросети Google и других компаний, не ставящих условия военным.

Неизвестно, приведет ли это к появлению сети Skynet (ИИ, убивающий человечество в франшизе «Терминатор»), но кажется романтика развития нейросетей закончилсь, они становятся рядовым инструментом в любых задачах. Ещё несколько лет назад исход борьбы частной компании и американского ведомства вызвал бы сомнение. Но многотысячные увольнения последних лет погасили пацифисткий пыл сотрудников ИТ-компаний, и похоже государство теперь сможет продавить свой подход при работе с любой организацией, оправдывая любые нарушения демократических принципов вопросами безопасности.