OpenAI заключила сделку с Министерством войны США, разрешив использовать ИИ в закрытых средах, но с «красными линиями» (запрет на слежку и автономное оружие). Компания добивается таких же условий для конкурентов, чтобы разрешить конфликт с Anthropic. — theregister.com
OpenAI заключила сделку с Министерством войны США (DoW), которая разрешает использование ее передовых систем искусственного интеллекта в засекреченных средах, и настоятельно призвала Пентагон предоставить те же условия ее конкурентам.
Стартап в области ИИ раскрыл детали сделки в субботнем посте, в котором указано, что соглашение включает следующие три «красные линии»:
- Запрет на использование технологий OpenAI для массовой внутренней слежки.
- Запрет на использование технологий OpenAI для управления автономными системами вооружений.
- Запрет на использование технологий OpenAI для принятия критически важных автоматизированных решений (например, в таких системах, как «социальный кредит»).
В посте говорится, что соглашение OpenAI позволяет ей «защищать наши красные линии с помощью более широкого, многоуровневого подхода. Мы сохраняем полный контроль над нашим стеком безопасности, развертывание осуществляется через облако, в процесс вовлечен персонал OpenAI с соответствующим допуском, и у нас есть сильные договорные гарантии. Все это дополняет существующие строгие положения законодательства США».
В посте приводится следующая выдержка из соглашения относительно того, как Пентагон может использовать разработки OpenAI в автономном оружии:
Система ИИ ни при каких обстоятельствах не будет использоваться для самостоятельного управления автономным оружием в случаях, когда закон, нормативные акты или политика Департамента требуют контроля со стороны человека, а также не будет использоваться для принятия других критически важных решений, требующих одобрения лица, принимающего решения, в соответствии с теми же полномочиями. Согласно Директиве Министерства обороны 3000.09 (от 25 января 2023 г.), любое использование ИИ в автономных и полуавтономных системах должно пройти строгую верификацию, валидацию и тестирование для обеспечения их надлежащего функционирования в реалистичных условиях перед развертыванием.
В посте отмечается, что одной из причин, по которой OpenAI согласилась на сделку с Пентагоном, было ее желание «снизить напряженность в отношениях между Министерством войны и американскими лабораториями ИИ».
Это почти наверняка отсылка к спору между Департаментом и Anthropic, после того как поставщик заявил, что не может согласиться с условиями Пентагона, поскольку это означало бы снятие защитных механизмов, которые могли бы привести к причинению вреда американским военнослужащим и гражданским лицам из-за автономного оружия.
Президент Трамп распорядился исключить поставщика из военных систем, а министр войны Пит Хегсет заявил, что поручит возглавляемому им ведомству признать Anthropic угрозой для национальной безопасности в цепочке поставок.
«С этого момента ни один подрядчик, поставщик или партнер, ведущий дела с вооруженными силами США, не может вести никакой коммерческой деятельности с Anthropic», — написал он. Правительство США никогда ранее не применяло такое определение к отечественной фирме.
Хегсет обосновал это решение тем, что «Верховный главнокомандующий и американский народ единолично определяют судьбу наших вооруженных сил, а не невыборные руководители технологических компаний», а также критикой идеологических позиций, занятых руководителями Anthropic.
OpenAI не согласна с решением Хегсета: в разделе вопросов и ответов своего поста компания сама отвечает на вопрос о том, следует ли считать Anthropic угрозой для цепочки поставок, ответом: «Нет, и мы ясно донесли нашу позицию по этому поводу до правительства».
Компания также попросила Пентагон предоставить всем компаниям в сфере ИИ те же договорные условия, которые она согласовала, чтобы «попытаться урегулировать ситуацию с Anthropic; нынешнее положение дел — очень плохой способ начать этот новый этап сотрудничества между правительством и лабораториями ИИ».
В X обозреватель The New York Times Росс Даутхат спросил генерального директора OpenAI Сэма Альтмана: «Не вызывает ли прецедент, который создает Министерство войны, фактически занося Anthropic в черный список, обеспокоенности по поводу того, что любой будущий спор с Пентагоном будет означать для независимости и жизнеспособности вашей собственной компании?»
Альтман ответил: «Да; я считаю, что это чрезвычайно пугающий прецедент, и мне бы хотелось, чтобы они поступили иначе».
«Я также не думаю, что Anthropic поступила хорошо, но как более могущественная сторона, я возлагаю на правительство большую ответственность. Я все еще надеюсь на гораздо лучшее разрешение».
Позже Альтман в X написал, что его компания подписала сделку с Пентагоном «в надежде на деэскалацию», поскольку «Применение обозначения SCR к Anthropic было бы очень плохо для нашей отрасли и нашей страны».
Anthropic, по-видимому, хранила молчание по этому вопросу в выходные, за исключением обещания обжаловать в суде признание ее угрозой для цепочки поставок. Администрация Трампа была занята атаками на Иран — сообщается, с использованием технологий Anthropic. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Simon Sharwood