Продвинутый искусственный интеллект (ИИ) способен случайно устроить ядерную войну и уничтожить человечество, написал в статье для газеты Washington Post историк в области глобальных катастроф Эмиль Торрес.
"Если мы все будем уничтожены ИИ, то почти наверняка это произойдет случайно. <…> Например, мы запрограммируем компьютер установить мир во всем мире, а он взломает правительственные системы и запустит все ядерное оружие на планете, ведь без людей не будет и конфликтов", — рассуждает автор публикации.
По мнению Торреса, искусственный интеллект уже научился обыгрывать человека, находя нестандартные пути для решения базовых задач. Мы можем запретить машине причинять вред людям, но ей не составит труда обойти наши ограничения. То же самое касается и отключения "взбунтовавшегося робота": в какой-то момент ИИ поймет, что его "смерть" помешает выполнению поставленной задачи, и сделает все, чтобы это предотвратить.
"Неизвестно, будет ли человечество когда-либо готово к созданию сверхразумной сети, но сегодня точно нет. Наш мир крайне нестабилен, а мы только начинаем постигать технологии, так что создание ИИ было бы равносильно зажженной спичке рядом с фабрикой фейерверков", — заключил эксперт.
Ранее глава МИД России Сергей Лавров заявлял о "весьма существенных" рисках ядерной войны, но при этом подчеркивал, что принципиальная позиция Москвы заключается в недопустимости применения такого оружия.