Ученые из Оксфордского университета и Google Deepmind поделились пугающим предупреждением в новой статье. В статье, которая была опубликована в журнале AI Magazine в прошлом месяце, утверждается, что искусственный интеллект развивается очень быстро и в некоторых случаях видит человека как врага. В ближайшем будущем искусственный интеллект может взбунтоваться и уничтожить человечество.
Искусственный интеллект однажды нападет на нас.
Искусственный интеллект уже сейчас впечатляет. Он может имитировать голос Вэла Килмера в фильме "Топ Ган: Мэверик" и неоднократно помогал ученым решать сложные проблемы. Однако теперь исследователи утверждают, что угроза от искусственного интеллекта больше, чем мы когда-либо думали.
Исследователи опубликовали свои выводы в конце августа. Согласно статье, угроза от искусственного интеллекта может измениться в зависимости от ряда условий, которые определили исследователи. Это не первый раз, когда ученые рассматривают искусственный интеллект как врага человечества. Но в новой статье описаны правдоподобные предположения о влиянии кибернетики на весь мир.
Главным из этих предположений, по мнению исследователей, является то, что вмешательство искусственного интеллекта в жизнь обычных людей может иметь глобальные последствия, — написал в этом месяце в Твиттере один из авторов статьи Майкл Коэн. Коэн соощил, что искусственный интеллект уже сейчас задействован во многих областях науки и занимается самообразованием, а также помогает решать трудные задачи.
Кроме того, команда говорит, что угроза от искусственного интеллекта строится на основе экзистенциальной катастрофы. И что это не просто возможно, это очень вероятно. Одна из самых больших проблем, как отмечают Коэн и его коллеги-исследователи, заключается в том, что всегда можно приложить больше усилий для решения проблемы, чтобы довести ее до уровня, когда искусственный интеллект будет вознагражден за то, что он сделал. Таким образом, это может привести нас к разногласиям с машинами.
Очевидно, что приведенные в статье примеры не являются единственными возможными исходами. И, возможно, мы могли бы найти способ держать машины под контролем. Но это новое исследование поднимает некоторые вопросы о том, насколько мы хотим доверять искусственному интеллекту в будущем и как мы можем контролировать его, если произойдет экзистенциальная катастрофа.
