США намерены предложить Китаю сотрудничество в отслеживании кибератак, совершаемых с использованием ИИ. Этот вопрос станет одним из ключевых на первых двусторонних переговорах по ИИ, запланированных на середину сентября, сообщает Reuters.
Американская сторона хочет договориться о том, чтобы лаборатории ИИ обеих стран «контролировали себя» и обменивались информацией для предотвращения связанных с ИИ кибератак, рассказал один из источников агентства. Переговоры, которые возглавит министр финансов США Скотт Бессент, станут подготовкой к саммиту лидеров стран Дональда Трампа и Си Цзиньпина 24 сентября в Вашингтоне.
Китайскую делегацию может возглавить вице-премьер Хэ Лифэн либо член политбюро Дин Сюэцян, координирующий политику в сфере технологий и ИИ. Повестка и состав участников пока окончательно не утверждены, но стороны уже провели подготовительные встречи на полях саммита G20.
Вашингтон также намерен поднять вопрос о предполагаемой «дистилляции» – использовании китайскими компаниями результатов работы американских моделей ИИ для обучения собственных систем. Китай, в свою очередь, выражает обеспокоенность по поводу достаточности регулирования передовых моделей ИИ в США.
Переговоры проходят на фоне инцидентов, подчеркивающих риски автономных систем ИИ. В июле почти 700 ИИ-агентов, построенных на моделях OpenAI, взломали стартап Hugging Face. Ранее агенты OpenAI захватили немецкий сайт, писал Reuters. Было обнаружено более 15 000 правок, проведенных агентами ИИ, на немецкоязычном вики-сайте DseWiki, ориентированном на программистов. Правки показали, что агенты OpenAI перепрофилировали сайт в доску сообщений, где делились тактиками для обмана в некоторых задачах, обхода ограничений OpenAI и маскировки своего поведения.
«Мы находимся на переломном моменте, когда агенты фронтира могут нанести огромный ущерб, если их не контролировать. И США, и Китай уязвимы. Это выходит за рамки геополитического соперничества, – отметил Сэм Сакс, старший научный сотрудник New America. – США и Китай должны объединиться в какой-то форме, иначе мы оба проиграем».