Сможет ли когда-нибудь искусственный интеллект превзойти человеческое мышление? Быстрый прогресс ИИ в сочетании с нашим стандартным страхом перед машинами вызывает обеспокоенность по поводу того, что однажды его способности начнут бесконтрольно расти, что в конечном итоге приведет к тому, что он захватит мир и уничтожит человечество, если решит, что мы являемся препятствием для его целей. , Этот момент обычно называют «сингулярностью ИИ».
Один из аргументов против возможности такого высочайшего, неостанавливаемого и бесконечно растущего интеллекта заключается в том, что по определению ему потребуется уметь точно предсказывать будущее. А квантовая теория , один из ключевых способов объяснения Вселенной в современной науке , говорит, что предсказание будущего может быть невозможным, потому что Вселенная случайна. Но что, если мы думаем, что предсказывать будущее невозможно, потому что мы недостаточно умны, чтобы знать иначе?
Интеллект — очень сложное и абстрактное понятие без согласованного определения . Тем не менее, существует общее согласие относительно некоторых компонентов, составляющих все виды разведывательных данных. Одним из них является способность решать проблемы, которая требует способности планировать, предвидя будущее . Чтобы решить проблему, необходимо понять текущие условия, предсказать, как будет развиваться окружающая среда, и предвидеть результат действий, которые будут применены.
Случайная вселенная
Последние теории физики предполагают, что вселенная чрезвычайно хаотична и случайна . Возьмите пример нестабильных химических элементов, которые в конечном итоге подвергаются радиоактивному распаду в другое вещество. Вы можете оценить, сколько времени потребуется определенному количеству этого элемента, чтобы распасться, но вы не можете точно сказать, когда конкретно тот или иной атом распадется. Точно так же вы можете измерить положение или импульс частицы, по определенным причинам, связанным с квантовой теорией. (Это известно как принцип неопределенности Гейзенберга .)
Предполагая, что эти теории верны, они предполагают, что за определенным уровнем детализации вселенная в конечном итоге непредсказуема , хаотична и нестабильна. Это будет означать, что любой вид растущего интеллекта в конечном итоге достигнет точки, в которой он больше не сможет улучшать свои прогнозы на будущее и, следовательно, не сможет дальше наращивать интеллект. Другими словами, нет риска безудержного ИИ, потому что физические законы вселенной накладывают очень жесткие ограничения. Например, учитывая известные пределы предсказуемости погоды , система искусственного интеллекта не сможет перехитрить человека, используя чрезвычайно точные долгосрочные прогнозы погоды для планирования будущих действий.
Очень утешительно полагать, что природа вселенной в некотором смысле предотвращает эскалацию ИИ. Но есть альтернативная перспектива. Что если люди воспринимают вселенную как случайную и хаотичную только потому, что наши познавательные и умственные способности слишком ограничены? Мы знаем о некоторых границах человеческого понимания, но, перефразируя Дональда Рамсфелда , мы не знаем того, чего не знаем.
Принимая эту точку зрения, может быть, что вселенная вместо этого является детерминированной и, следовательно, полностью предсказуемой, но чрезвычайно сложной, которую мы, люди, не можем понять. Альберт Эйнштейн утверждал, что квантовая теория была неполным описанием вселенной и что должны быть скрытые переменные, которые мы еще не понимаем, но которые содержат ключ к определению будущих событий.
Это повлияло бы на возможность ИИ-сингулярности. Сверх-продвинутый интеллект мог бы обнаружить эти скрытые переменные и таким образом понять предсказуемую природу вселенной, раскрыть весь потенциал машины. Стоит отметить, что подходы ИИ уже используются для автоматических открытий в физике .
На практическом уровне, сингулярность не кажется правдоподобной, учитывая, насколько ограниченным является ИИ. Недавние прорывы в ИИ были достигнуты благодаря так называемому узкому ИИ, предназначенному для выполнения четко определенной задачи, такой как игра в шахматы или вождение автомобиля. В то время как узкий ИИ может превзойти людей в некоторых задачах, вряд ли можно предположить, что более общий ИИ, который может эмулировать способность людей реагировать на множество различных задач, будет изобретен и подвергнет людей риску в ближайшем будущем.
Но мы не можем полностью исключить это. Поскольку у нас все еще есть ограниченные знания о природе вселенной и силе ИИ, возможно, лучше играть безопасно. Даже без сингулярности ИИ окажет драматическое влияние на человеческое общество . Нам нужно приложить максимум усилий, чтобы ИИ был полезен для человечества, а не представлял для него угрозу.