В книге «Искусственный разум и новая эра человечества», которая выходит в июне в издательстве «Альпина PRO», авторы пытаются ответить на вопрос, как трансформируется человечество и каким образом на него влияют новые технологии, в том числе, в области политики и безопасности.
Например, Эрик Шмидт, глава Комиссии национальной безопасности США по ИИ, рассуждает на тему кибероружия и применения ИИ в ходе конфликтов. Даже ядерное оружие существует в обычном мире, где его развертывание может быть замечено, а его возможности определены — хотя бы приблизительно. Напротив, одно из главных свойств кибероружия — его непрозрачность. Например, так называемые атаки нулевого дня используют ранее неизвестные недостатки в ПО, получая доступ к сети или системе без разрешения или ведома авторизованного пользователя. В случае распределенных DDoS-атак делается множество информационных запросов, блокирующих системы.
Истинные источники атак маскируются, что затрудняет или делает невозможной идентификацию атакующего. Один из самых известных случаев промышленного саботажа с использованием кибернетических технологий — атака вируса Stuxnet, которая вывела из строя компьютеры, управлявшие иранскими ядерными разработками.
В некоторых случаях кибероружие по степени воздействия становится похожим на биологическое или химическое. А если ИИ получит определенную степень контроля над кибернетическими (наступательными или оборонительными) или физическими (такими, как авиация) системами вооружений, он сможет успешно выполнять функции, которые сложно реализовывать людям. Такие ИИ, как μZero ВВС США, уже летали на реальных самолетах и управляли радарными системами во время испытательных полетов.
Способность ИИ к автономии и логике создает не только потенциальную пользу, но и колоссальную неопределенность. Большинство традиционных военных стратегий и тактик основаны на предположении о существовании противника-человека, который будет вести себя узнаваемым образом, в соответствии с человеческим опытом и здравым смыслом. Однако ИИ, управляющий самолетом в поисках цели, будет следовать своей собственной логике, неизвестной противнику — и гораздо быстрее самого опытного летчика.