Сверхразумная машина, которая управляет миром, — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи. «При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — задается вопросом Мануэль Себриан, один из авторов исследования и руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.
Ученые использовали методы моделирования и пришли к выводу, что даже если отключить машину от интернета, это все равно не защитит человечество от ее возможного произвола.
«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программы, которые будут управляться при помощи универсальной машины Тьюринга. Столь же сложной, как и состояние мира», — заключают исследователи.