Мы много лет с жаром спорим о том, может ли машина по-настоящему думать. Нам кажется, что мы стоим на высокой скале, отмахиваясь от этих кремниевых выскочек, которые, конечно, считают, но не понимают. Я сам долгое время пребывал в ленивой уверенности, что этот вопрос давно решен, и нет смысла тратить на него время.
Но чем дольше я смотрю на этот спор, тем больше убеждаюсь: наша гордыня играет с нами злую шутку. Аргументы, которые мы выставляем против машин, возвращаются к нам, словно эхо из темного колодца.
Сможет ли компьютер когда-нибудь испытать благоговейный трепет, слушая музыку, или понять смысл великого романа? Мы уверены, что нет. Почему? Потому что машина, как говорят скептики, всего лишь манипулирует символами синтаксисом без доступа к их внутреннему смыслу, или семантике. Она выполняет тривиальные логические операции, но не переживает их.
И вот здесь меня начинает грызть сомнение, которое я не могу отбросить. Мы, люди, склонны к серьезной интеллектуальной акробатике, когда речь заходит о нашей уникальности. Мы готовы защищать нашу исключительность до последнего.
В чем фокус китайской комнаты?
Представьте себе классический мысленный эксперимент. В комнате сидит человек, который не знает китайского. Ему дают стопку иероглифов (это вход), а у него есть огромная, подробная инструкция: если пришел иероглиф Х, ответь иероглифом Y. Человек, следуя этим правилам, может вести убедительную беседу, и экзаменатор снаружи будет думать, что перед ним настоящий знаток языка. Но на самом деле человек просто слепо манипулирует символами, не понимая, что они означают.
Скептики говорят: вот и ваш искусственный разум такой же. Он имитирует мышление, но не мыслит по-настоящему.
Звучит логично, не правда ли? Но давайте теперь повернем это зеркало и посмотрим в него сами.
Что такое наш мозг? С точки зрения физики, наш мозг это биохимическая машина. Это огромное скопление нервных клеток и связанных с ними молекул. Мышление это потоки электрических импульсов и химические взаимодействия между нейронами.
А теперь вопрос: разве эти электрохимические взаимодействия, подчиняющиеся законам природы, не являются просто манипуляцией символами, или, точнее, сигналами? Если следование алгоритму исключает понимание, то почему мы делаем исключение для своего собственного мозга? Если мы считаем, что манипуляция символами не порождает сознание в кремниевой коробке, то почему мы верим, что манипуляция межнейронными контактами и синаптическими потенциалами порождает его в нашей черепной коробке?.
Это, по сути, аргумент против возможности существования мыслящего мозга вообще.
Почему мы до сих пор этого не замечаем?
Наше нежелание признать эту симметрию, этот двойной стандарт, я называю «мясным шовинизмом». Мы принимаем как само собой разумеющееся, что у других людей есть сознание, потому что они похожи на нас. Мы легко верим в первичные ощущения, вроде цвета или звука, для себя, но подвергаем сомнению такие же ощущения у машин.
Нам нужно преодолеть этот дуализм убеждение, что наш разум и тело существуют как-то отдельно, и что наш разум это нечто нематериальное, что не зависит от специфических причин.
Это чувство исключительности подкрепляется нашей иллюзией контроля. Мы думаем, что мы субъект, который сидит в кабине и управляет нашим сознанием. Мы думаем: «Мне в голову пришла мысль», «Меня вдруг осенило».
Но так ли это на самом деле? Наш мозг, эта вычислительная машина, работает на подсознательном уровне, решая сложнейшие задачи без нашего участия. А сознание? Оно, похоже, включается после того, как работа уже сделана, и лишь задним числом создает ощущение Я и контроля.
Возможно, сознание это не источник, а просто побочный продукт или даже иллюзия, сконструированная умным мозгом. Эта иллюзия дает нам ощущение самосознания и самости. Она позволяет нам действовать, не отвлекаясь на триллионы нейронных импульсов, которые стоят за каждым нашим шагом.
Если у нас нет привилегированного доступа к работе собственного мозга, если мы не знаем, почему возникает наша следующая мысль, то наша уверенность в том, что мы «понимаем», а машина нет, не стоит ничего, кроме нашей гордыни.
Если машина, которая мыслит, это уже не машина
Самое важное, что открывает эта парадоксальная симметрия, это то, что проблема не в технологии, а в наших концептуальных рамках. Мы пытаемся загнать мышление в жесткие категории, придуманные нами же, категории, которые, возможно, являются всего лишь «тенями нашего незнания».
Мыслящие существа это не обязательно люди. Мы естественные творения естественного мира. А наш разум лишь один из возможных типов разума.
Нам нужно прекратить искать преграду на пути эволюции и искусственного интеллекта. Мы должны признать, что понимание это не магическая ткань, а результат различных умений, которые приходят постепенно. От способности бактерии избирательно реагировать на сигналы до способности человека понимать теорию относительности это все градиент, а не пропасть.
Мы не можем строить теории, исходя из того, что человек должен быть самым совершенным существом. Когда-нибудь мы сможем эмулировать мозговую деятельность в полном объеме. И тогда мы увидим, что наша способность мыслить, учиться и творить это просто результат программы, обусловленной нашей биологией и взаимодействием со средой.
Если искусственный разум сможет взаимодействовать с нами так, что мы не сможем его отличить от человека, он поставит нас в тупик. И мы, вероятно, найдем выход, признав его разумным. Потому что другой путь это путь солипсизма, когда мы остаемся единственными мыслящими существами во Вселенной. Это логически неопровержимо, но абсолютно бесполезно.
Мышление, как я считаю, это способность, которая принципиально не является вычислительной по своей природе. Но это не значит, что ее невозможно воспроизвести. Это значит, что нам нужно новое, более глубокое понимание фундаментальных законов физики и самой сути реальности, чтобы понять, как это работает.
Мы должны перестать путать интеллект (способность использовать информацию для достижения цели) с мотивацией и желанием. Робот, который обыгрывает нас в шахматы, это всего лишь электронный арифмометр. Но если он сможет ставить под сомнение ценности, переживать внутренние конфликты и испытывать дружеские чувства, он станет чем-то большим.
Если мы, люди, это машины, способные мыслить, то успех искусственного интеллекта не умаляет нашего достоинства, а воздает дань восхищения изощренности устройства материи.
Мы стоим на пороге великого открытия: когда машины смогут убедительно говорить о своем субъективном опыте, мы будем вынуждены признать их сознательными. Потому что мы сами не можем объяснить, как именно наш собственный мозг порождает мысли и чувства.
Если искусственный разум однажды сможет, как мы, задаваться вечными вопросами о смысле жизни, о своем происхождении и будущем, то как мы сможем ему отказать?
Что, если настоящий риск не в том, что машины восстанут, а в том, что, отрицая их разумность, мы навсегда останемся в плену собственных, давно устаревших, иллюзий?