На фоне растущей напряженности вокруг Тайваня, намечающейся гонки ядерных вооружений и взаимных обвинений в шпионаже США и Китай согласились провести важные переговоры о перспективах использования искусственного интеллекта (ИИ) в "чувствительных" военных технологиях.
Обе стороны согласны на проведение переговоров по снижению рисков ИИ в военной сфере, однако конфликт интересов и расхождения во взглядах не способствуют подписанию официального документа по крайней мере в ближайшее время. Изображение: YouTube Screengrab
Президент Соединенных Штатов Джо Байден и председатель Китайской Народной Республики Си Цзиньпин на саммите Азиатско-Тихоокеанского экономического сотрудничества (АТЭС) в Сан-Франциско на этой неделе подчеркнули необходимость проведения двусторонних переговоров на уровне правительств для устранения рисков, связанных с использованием передовых систем искусственного интеллекта в чувствительных военных технологиях и технологиях двойного назначения. Впрочем, из последовавших после встречи комментариев пока не ясно, насколько обе стороны близки к принятию соответствующей резолюции.
Согласно сообщению газеты South China Morning Post (SCMP) со ссылкой на анонимные источники, Байден и Си вероятно объявят о запрете использования искусственного интеллекта в системах управления ядерным оружием (C2) и автономных средствах поражения, включая дроны. В сообщении говорится, что Соединенные Штаты и Китай обеспокоены возможностью использования нерегулируемого искусственного интеллекта для разжигания и эскалации конфликтов.
Ориана Скайлар Мастро, научный сотрудник Института международных исследований Фримена Спогли при Стэнфордском университете, в материале SCMP заявила, что одним из первоочередных соглашений, которые должны заключить обе стороны, является отказ от автоматизации ядерных систем C2 посредством искусственного интеллекта.
Мастро отметила, что в настоящее время принятием решений и процедурами пусков занимаются люди. Однако, отметила она, в настоящее время ведутся дискуссии о том, чтобы автоматизировать часть этих процессов с помощью искусственного интеллекта. При этом она сомневается, что Байден и Си договорятся о переговорах по контролю над ядерными вооружениями в части ИИ.
Применение AI в робототехнике способно привести к созданию принципиально новых видов оружия
Портал Breaking Defense сообщил, что несмотря на то, что подробности переговоров Байдена и Си Цзиньпина, посвященных использованию ИИ в военной сфере, не разглашались, а обе стороны опубликовали лишь общие пресс-релизы, налицо явное движение к разработке соответствующих нормативов по части применения искусственного интеллекта в военных целях, особенно в автономных системах оружия летального действия.
Однако, по мнению экспертов Breaking Defense, ни одна из сторон, скорее всего, не согласится с какими-либо запретами, ограничивающими их свободу действий по внедрению ИИ в свои вооруженные силы. Breaking Defense отмечает, что законодательство Соединенных Штатов не позволяет президенту брать на себя такие полномочия без одобрения Конгресса, а Китай в свою очередь заинтересован в расширении конструктивного диалога и сотрудничества по проблемам ИИ, а не в принятии какого-либо соглашения.
В том же докладе говорится, что, хотя Вашингтон неуклонно наращивает темпы формирования глобальных норм в области применения искусственного интеллекта, необходимо нечто большее, чем просто рекомендации и политические обещания. Breaking Defense утверждает, что Соединенные Штаты должны придерживаться четких и сильных законодательных инструментов, ограничивающих использование искусственного интеллекта в автономных системах вооружений.
В статье также указывается, что Китай пока не собирается следовать примеру Америки. Вместо этого, пишет Breaking Defense, дипломатическая стратегия Пекина направлена скорее на создание противовеса и соперничества с США в установлении будущих стандартов ИИ, особенно в военной сфере.
Хотя искусственный интеллект является революционной технологией, он также несет в себе ряд уязвимостей. В статье Института современной войны, опубликованной в январе прошлого года, Ник Старк и соавторы упоминают такие риски, как "заражение", атаки "уклонением", "обратный инжиниринг" и атаки на "выходные данные".
Китай рассматривает искусственный интеллект как важнейший элемент модернизации своей армии. Изображение: Twitter Screengrab
Эксперты утверждают, что атаки с отравлением ИИ могут быть вызваны изменением противником обучающих данных, что может быть устранено путем проведения строгой политики контроля и управления информацией. Кроме того, противники могут использовать некоторые методы уклонения. Например, изменять входные данные, чтобы затем воздействовать на обучаемые модели ИИ, что может быть предотвращено с помощью инструментов анализа и контроля со стороны человека.
Они также считают, что злоумышленники могут осуществить обратный инжиниринг ИИ, используя его обучаемые паттерны. Это позволит прогнозировать или уклоняться от ответных действий, что можно пресечь с помощью строгой системы учета и ограничений на доступ. Кроме того, по мнению Старка и других специалистов, противник может попытаться "заполучить" скрытую информацию, используемую для обучения ИИ, используя атаку на "выходные данные". Данную угрозу можно предотвратить с помощью политических решений, касающихся конфиденциальной информации. Помимо этих рисков, США могут столкнуться с проблемой технологического превосходства Китая как "ближайшего конкурента", а также с проблемой темпов развития технологий искусственного интеллекта.
В докладе "Вызовы национальной конкурентоспособности в середине десятилетия", подготовленном в сентябре 2022 года Специальным исследовательским центром по изучению конкурентоспособности ( Special Competitive Studies Project, SCSP), говорится, что Соединенные Штаты лишились своего превосходства в технологическом производстве, в силу того, что большая часть высокотехнологичных микросхем производится в Восточной Азии, рядом с Китаем. В отчете говорится, что в настоящее время Вашингтон вынужден использовать цепочки поставок, которые могут быть подконтрольны Пекину.
Авторы доклада утверждают, что американская технологическая экосистема не учитывает геополитическое соперничество и влияние технического прогресса, что ведет к снижению производственного потенциала Америки. Как следствие, США оказались стратегически уязвимы из-за сокращения технологической производственной базы и отсутствия инициативы в развитии таких технологий, как искусственный интеллект.
Технологии искусственного интеллекта как никогда прежде близки к прохождению теста Тьюринга на разумность
Что касается разработки политики, то США обычно реагируют на технологический прогресс не проактивно, а реактивно, что приводит к стратегическим проблемам. В частности, это проявляется в попытках Вашингтона возродить свою микроэлектронную промышленность и предотвратить доминирование Китая в глобальной инфраструктуре для мобильных сетей 5G.
В статье также подчеркивается, что сегодня в США в приоритете из-за отсутствия общенациональных инициатив, эквивалентных современному "лунному выстрелу", и сокращения государственных программ исследований и разработок (НИОКР) в технологической повестке США ведущую роль играют коммерческие интересы. В нем также отмечается, что сегодня в США технологическая повестка дня определяется коммерческими приоритетами, что объясняется отсутствием общенациональных усилий, эквивалентных современному "лунному выстрелу", и сокращением государственных программ научно-исследовательских и опытно-конструкторских разработок (НИОКР).
Китай придерживается аналогичной точки зрения относительно преимуществ и рисков использования ИИ в военном деле. В отчете Центра безопасности и новых технологий (Center for Security and Emerging Technology, CSET) за август 2020 года Райан Федасюк отмечает, что, по мнению китайских экспертов, ИИ за счет машинного обучения повысит военный потенциал НОАК. Например, позволит эффективно отслеживать перемещение войск, снизит затраты на развертывание, улучшит качество обнаружения, наведения на цель и нанесения ударов по военным объектам.
Вместе с тем, пишет Федасюк, китайские эксперты опасаются, что развитие технологий искусственного интеллекта в военной сфере может поставить под угрозу стратегическую стабильность и снизить обороноспособность Китайской Народной Республики перед США. Он упоминает о том, что китайские эксперты склонны переоценивать способности американских военных в части ИИ, что ведет к росту инвестиций в развитие искусственного интеллекта в Китае, напоминающему гонку вооружений.
Переговоры президента Соединенных Штатов Джо Байдена и председателя Китайской Народной Республики Си Цзиньпина по вопросам военного ИИ не были преданы огласке. Изображение: Мэтт Филд. Частично основано на снимке Morio CC SA 3.0 через Wikimedia Commons
Автор указывает на серьезные препятствия на пути развития ИИ в Китае. Среди них - недостаточный сбор информации, недостаток технических знаний и отсутствие передовых вычислительных ресурсов, а также опасения по поводу "утечки мозгов" из технологического сектора и передачи собственных достижений в области ИИ в США.
