По собственному признанию Сэма Альтмана, сделка OpenAI с Министерством обороны была «определенно поспешной», и «оптика выглядит не лучшим образом». — techcrunch.com
После того как в пятницу переговоры между Anthropic и Пентагоном провалились, президент Дональд Трамп поручил федеральным агентствам прекратить использование технологий Anthropic по истечении шестимесячного переходного периода, а министр обороны Пит Хегсет заявил, что признает ИИ-компанию угрозой для цепочки поставок.
Затем OpenAI быстро объявила о заключении собственной сделки о развертывании моделей в закрытых средах. Поскольку Anthropic заявляла о проведении «красных линий» в отношении использования своих технологий в полностью автономном оружии или массовой внутренней слежке, а Альтман утверждал, что OpenAI придерживается тех же «красных линий», возникли очевидные вопросы: была ли OpenAI честна в отношении своих мер безопасности? Почему ей удалось заключить сделку, а Anthropic — нет?
Поэтому, пока руководители OpenAI защищали соглашение в социальных сетях, компания также опубликовала пост в блоге с изложением своего подхода.
Фактически, в этом посте были указаны три области, где, по заявлению компании, модели OpenAI не могут использоваться — массовая внутренняя слежка, автономные системы вооружения и «автоматизированные решения с высокими ставками (например, системы типа „социального кредита“)».
Компания заявила, что, в отличие от других ИИ-компаний, которые «ослабили или убрали свои защитные механизмы и полагались в основном на правила использования в качестве основных гарантий при развертывании в сфере национальной безопасности», соглашение OpenAI защищает ее «красные линии» «с помощью более широкого, многоуровневого подхода».
«Мы сохраняем полную свободу действий в отношении нашего стека безопасности, мы развертываем через облако, в процесс вовлечен персонал OpenAI с допуском, и у нас есть сильные договорные гарантии», — говорилось в блоге. «И все это в дополнение к существующим строгим гарантиям в законодательстве США».
Компания добавила: «Мы не знаем, почему Anthropic не смогла заключить эту сделку, и надеемся, что они и другие лаборатории рассмотрят ее».
После публикации поста Майк Масник из Techdirt заявил, что сделка «абсолютно допускает внутреннюю слежку», поскольку в ней говорится, что сбор частных данных будет соответствовать Исполнительному указу 12333 (наряду с рядом других законов). Масник охарактеризовал этот указ как «способ, которым АНБ скрывает свою внутреннюю слежку, перехватывая коммуникации путем подключения к линиям *за пределами США*, даже если это затрагивает информацию граждан США».
В посте в LinkedIn глава по партнерствам в сфере национальной безопасности OpenAI Катрина Маллиган утверждала, что большая часть дискуссий вокруг формулировок контракта основана на предположении, что «единственное, что стоит между американцами и использованием ИИ для массовой внутренней слежки и автономного оружия, — это одно положение о правилах использования в одном контракте с Министерством войны».
«Так это не работает», — сказала Маллиган, добавив: «Архитектура развертывания важнее формулировок контракта […] Ограничивая наше развертывание облачным API, мы можем гарантировать, что наши модели не будут напрямую интегрированы в системы вооружения, датчики или другое оперативное оборудование».
Альтман также отвечал на вопросы о сделке в X, где он признал, что она была поспешной и вызвала значительную негативную реакцию в адрес OpenAI (до такой степени, что Claude от Anthropic обогнал ChatGPT от OpenAI в App Store Apple в субботу). Так зачем же это было нужно?
«Мы действительно хотели снизить напряженность, и мы считали, что предложенная сделка была хорошей», — сказал Альтман. «Если мы правы и это приведет к снижению напряженности между Министерством обороны и отраслью, мы будем выглядеть гениями и компанией, которая взяла на себя много трудностей, чтобы помочь отрасли. Если нет, нас продолжат характеризовать как […] поспешных и неосторожных».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Anthony Ha