Генеральный директор компании Anthropic Дарио Амодей лично вернулся за стол переговоров с американским военным ведомством. Поводом стала реальная угроза исключения стартапа из оборонных контрактов по причине так называемого «риска для цепочки поставок». Противостояние длилось несколько недель и завершилось в пятницу, однако окончательная точка в этом деле ещё не поставлена.
Читать на сайте: Anthropic отказалась давать ИИ право убивать — и едва не лишилась всех контрактов с Пентагоном Суть конфликта
Камнем преткновения стали два принципиальных ограничения, которые Anthropic отказалась снимать:
- запрет на массовую слежку за гражданами США с использованием технологий компании;
- отказ от применения ИИ в автономных летальных системах, способных принимать решения об уничтожении без участия человека.
Министр обороны Пит Хегсет настаивал на том, чтобы технология была доступна для «любого законного использования». Конкуренты — OpenAI и xAI — с такими условиями согласились без возражений. Anthropic же занял принципиальную позицию, что и породило публичный скандал. (источник: www.theverge.com)
Личная перепалка в социальных сетях
Заместитель министра обороны по исследованиям и инженерному обеспечению Эмиль Майкл не стал сдерживать эмоции и публично атаковал Амодея, назвав его:
- «лжецом» с «комплексом Бога»;
- человеком, который «ставит под угрозу безопасность страны».
Несмотря на это, именно с Майклом Амодей сейчас обсуждает условия нового контракта, который позволил бы военным продолжить использование языковой модели Claude. Об этом сообщает Financial Times со ссылкой на осведомлённые источники.
Что поставлено на кон
Для Anthropic ситуация приобрела характер борьбы за выживание. Хегсет заявил о намерении внести компанию в особый список, куда обычно попадают организации, связанные с иностранными правительствами и представляющие угрозу национальной безопасности. Последствия такого решения были бы катастрофическими: все фирмы, работающие по оборонным контрактам, оказались бы вынуждены отказаться от Claude и разорвать любые деловые связи с Anthropic.
Стоит напомнить, что до недавнего времени Claude оставалась единственной ИИ-системой с допуском к секретным данным, а её применение охватывало реальные военные операции, включая рейд в Венесуэлу и удары по Ирану.
Утечка внутренней переписки
Ситуацию дополнительно осложнила утечка служебной записки Амодея сотрудникам компании. В ней генеральный директор:
- назвал сделку OpenAI с Пентагоном «театром безопасности»;
- охарактеризовал заявления обеих сторон как «откровенную ложь»;
- объяснил ухудшение отношений с администрацией тем, что Anthropic не делала пожертвований в пользу Трампа и не демонстрировала публичной лояльности президенту.
Для сравнения: глава OpenAI Сэм Альтман входит в число видных сторонников Трампа из Кремниевой долины, а соучредитель Грег Брокман является его крупным донором. Именно этот контраст, по мнению Амодея, и определил разное отношение к компаниям со стороны нынешней администрации.
Популярные статьи:
