Найти тему
Типичный программист

Ученые считают, что люди не смогут конролировать сверхразумные машины

Источник: Getty images
Источник: Getty images

Сверхразумная машина, которая управляет миром, — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи. «При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — задается вопросом Мануэль Себриан, один из авторов исследования и руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.

Ученые использовали методы моделирования и пришли к выводу, что даже если отключить машину от интернета, это все равно не защитит человечество от ее возможного произвола.

«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программы, которые будут управляться при помощи универсальной машины Тьюринга. Столь же сложной, как и состояние мира», — заключают исследователи.