Искусственный интеллект (ИИ) в состоянии случайно начать глобальную термоядерную войну, нацеленную на уничтожение человечества, считает историк в области глобальных катастроф Эмиль Торрес.
"Если мы все будем уничтожены ИИ, то почти наверняка это произойдет случайно… Например, мы запрограммируем компьютер установить мир во всем мире, а он взломает правительственные системы и запустит все ядерное оружие на планете, ведь без людей не будет и конфликтов", – написал он в статье для The Washington Post.
Торрес утверждает, что ИИ уже обыгрывает человека с помощью нестандартных путей решения тривиальных задач. По его словам, машине можно запретить причинять вред людям, но ей не составит труда обойти ограничения. То же самое касается и отключения "взбунтовавшегося робота" – в какой-то момент ИИ поймет, что его "смерть" помешает выполнению поставленной задачи и сделает все, чтобы это предотвратить, пишет историк.
"Неизвестно, будет ли человечество когда-либо готово к созданию сверхразумной сети, но сегодня точно нет. Наш мир крайне нестабилен, а мы только начинаем постигать технологии, так что создание ИИ было бы равносильно зажженной спичке рядом с фабрикой фейерверков", – заключил эксперт.
Ранее радио Sputnik сообщило, что рассмотрят применения ядерного оружия лишь в экстремальной ситуации.
Коротко и по делу. Только отборные цитаты в нашем Телеграм-канале.