Глава ЦБСТ Андрей Безруков специально для @wargonzoya — о том, зачем России создавать международную систему контроля распространения технологий дронов и искусственного интеллекта
За последние несколько лет беспилотные аппараты эволюционировали из продуктов потребительского рынка, широко представленных в магазинах электроники, в массовый инструмент ведения военных действий. Широко распространены кадры, демонстрирующие, как простейшие дроны за десятки тысяч рублей уничтожают военную технику стоимостью в миллионы долларов.
Другой пример — системы анализа спутниковых изображений на основе ИИ. Формально позиционируемые как инструменты управления земельными угодьями, фактически они представляют собой мощное разведывательное средство. Эти и другие гражданские технологии не классифицируются как вооружение и не подпадают под существующие правовые регуляторные механизмы как на национальном, так и на межгосударственном уровне.
Эта ситуация касается безопасности миллионов людей и порождает комплекс сложных правовых вопросов, требующих принципиально новых подходов к регулированию.
Правовая неопределенность в регулировании специальных, двойных и военных технологий
Если ранее разработка вооружений была прерогативой государства и строго регулируемого рынка, то сегодня частные компании создают и применяют технологии, которые по эффективности превосходят традиционные военные решения. При этом их деятельность осуществляется далеко за пределами правового поля, регулирующего военные технологии.
Например, американская компания Palantir, основанная как стартап по анализу данных, разработала системы искусственного интеллекта, применяемые для военной разведки, прогнозирования террористических угроз и управления беспилотниками. Формально являясь аналитическим программным обеспечением, эти системы позволяют обходить многие существующие правовые ограничения.
Значительная часть эффективных решений, применяемых в конфликтах по всему миру (беспилотники, системы ИИ и др.), формально не относится к вооружению, военной специальной технике и не регулируется соответствующим национальным законодательством. Это создает правовой вакуум, в рамках которого компании и правительства вынуждены использовать временные механизмы.
Это неизбежно влечет негативные последствия для всех участников рынка. В России подобным компаниям необходимо проработать вопрос своего правового статуса. С другой стороны, активное вовлечение частных компаний в военно-технологическую сферу ставит перед законодателями задачу поиска нового баланса между необходимостью государственного контроля и развитием предпринимательской инициативы.
Правовые пробелы в сфере экспорта и импорта технологий двойного назначения
Действующие международные договоры и конвенции, разработанные в XX веке, не учитывают потенциал и риски несанкционированного военного применения современных технологий по всему миру. В результате страны, формально соблюдая международные обязательства, участвуют в неуправляемой гонке вооружений.
Когда де-факто боевой дрон поставляется под видом гражданского, а нейросети для разведки распространяются как аналитический софт, это представляет собой не лазейки, а расширяющуюся «серую зону» в системе международной безопасности.
Обсуждать эту проблематику стоит на эффективных международных площадках в сфере обороны и безопасности с целью выработки конкретных механизмов работы с новыми рисками и угрозами.
Применение искусственного интеллекта в боевых действиях
ИИ уже используются для координации ударов, распознавания целей и принятия решений на поле боя.
Следует признать: технологии искусственного интеллекта перестали иметь исключительно гражданское назначение — они превратились в оружие, которое в ближайшие несколько лет станет основой решающего военно-технического превосходства, что требует договоренностей ведущих стран мира о режиме распространения этих технологий.
Сегодня нам в очередной раз пытаются навязать войну без правил.
Поэтому России необходимо стать одним из архитекторов системы международной безопасности в сфере боевого применения новых технологий и искусственного интеллекта.
Для этого нужны выверенные и продуманные правовые решения и механизмы.