Прочитал сегодня статью в Forbes и страшные мысли в голове не дают покоя: ядерное оружие — это не то, чего всерьез стоит бояться. Там достаточно сдерживающих факторов.
А вот открытое письмо за подписью Илона Маска, Стива Возняк и еще более 1100 экспертов в области информационных технологий с призывом остановить развитие искусственного интеллекта — это что-то невероятное. И причина тому — мы еще не умеем его контролировать!
В России эту идею отвергли сразу. И нас можно понять, поскольку во всем нашу страну всегда водили за нос: мы разоружаемся, приостанавливаем исследования, а остальные втихую только набирают обороты. В этот раз мы недоговороспособные.
Всегда хотелось понять, в какой такой момент происходит переломный момент (в фильмах), когда машины и роботы вдруг становятся умнее человека и встают против нашего мира. И вот нам живой пример.
Теперь, что может произойти, когда начнется (а она уже фактически началась) гонка в развитии искусственного интеллекта. Эти супер-умные программы, которые уже сдают за студентов экзамены, пишут книги, песни, выступают в суде в качестве защиты, именно эти разработки могут попасть в руки идейных психопатов. Запустив вирусную программу, наделенную ИИ она просто уйдет в сеть и начнет свою разрушительную миссию. И остановить ее будет невозможно, без всякого преувеличения.
Можно только представить, что все личные данные пользователей, хранящиеся в цифре могут оказаться в открытом доступе, либо же вообще стерты. Медицинские архивы, научные разработки, секретные материалы государственных структур. В один момент все данные могут быть обнулены.
А технологические процессы: расписания и сопровождение авиарейсов, ж/д транспорта, навигационные системы, телевещание. Это уже будет физические разрушения и колоссальные жертвы среди людей.
Промышленное производство не просто встанет — оно будет разрушено. Медицина и все достижения на роботизированном уровне, а также те, чье здоровье зависит от технических средств безвозвратно пострадают.
Финансовая система, счета, депозитарии — все, что в цифре обнулится. Любые сбережения просто исчезнут. Электронные расчеты, а уж тем более бесконтактные платежи будут невозможны.
Этот апокалипсис сегодня на стадии запуска. Об этом предупреждают главы IT-гигантов. Но, к сожалению, сегодня никто никому больше не верит. Каждая сторона хочет преуспеть в своей разрушительной силе. А мы может только за этим наблюдать и готовиться к тому, что вскоре от всех наших девайсов придется отказаться. Сможем ли мы выжить без всех этих «помощников»? — покажет время.
P.S. Остановить «вирусный» искусственный интеллект можно будет только одним способом — стереть с лица Земли всю технологическую базу. А это уже откат ближе к первобытным временам...