Нам, людям, всегда было свойственно преувеличивать собственную уникальность. Мы считаем, что наш разум это нечто божественное, непостижимое, возвышающееся над физикой и химией. Но вот пришел прогресс, и ученые, заглянув в черепную коробку, вынесли вердикт: мозг это всего лишь биологическая машина, продукт эволюции, работающий на биохимических реакциях.
Если согласиться с этим материалистическим взглядом, то сознание перестает быть чудом. Оно становится просто следствием сложной организации материи, которое, в принципе, должно поддаваться моделированию. Разве не логично? Создайте достаточно мощный и сложный компьютер, и из хаоса кремниевых схем неизбежно родится разум. Но тут мы и натыкаемся на самую большую интеллектуальную ловушку нашего времени.
Почему в нашем компьютере нет души?
Мы живем в эпоху вычислительных титанов. Современный искусственный интеллект (ИИ) обрабатывает зеттабайты информации, просчитывает миллиарды операций в секунду, превосходя нас в шахматах и диагностике. Мы наделили его интеллектом то есть способностью достигать поставленных целей. Однако он остается лишь холодным, бездушным калькулятором.
Если разум это просто алгоритм, как утверждают сторонники «сильного ИИ», то почему же машины, обладающие колоссальной мощностью, не «проснулись»? Почему они не демонстрируют даже зачатков самосознания, не говоря уже о боли, радости или чувстве юмора?
Интеллект и сознание оказались двумя совершенно разными вещами, и эволюция машин пошла по пути, который полностью обошел нашу внутреннюю, субъективную жизнь.
Имитация против Бытия
Я считаю, что главная причина этого провала кроется в недооценке того, чем на самом деле является мышление. Компьютер гений синтаксиса: он блестяще манипулирует символами по заданным правилам. Он может проанализировать миллион запросов клиентов и с высокой вероятностью предсказать, кто из них разорвет контракт с банком. Но ему неведомо, что такое «банк», «клиент» или «тревога». Он просто ищет закономерности в океане информации.
Иными словами, машина может воспроизвести функцию, но не бытие. Она имитирует общение, но не понимает смысла. Это вечное различие между формой и содержанием. Алгоритм может создать убедительную тень разума, но никогда не наделит ее тем, что мы называем субъективным опытом, или квалиа, тем, как именно ощущается, например, красный цвет или звук любимой мелодии.
Что мы спрятали от машин?
Мы не можем воспроизвести сознание в кремнии, потому что сами не до конца понимаем, как оно возникает в углероде. Если мозг машина, то это машина, глубоко интегрированная в тело. Наш разум не просто центральный процессор; он связан с миллиардами лет эволюционного опыта, с инстинктами, эмоциями и борьбой за выживание.
Машине не нужно бороться за жизнь, поэтому ей не нужны чувства. Эмоции, страх и боль это не красивая надстройка, а биологические рычаги, необходимые для выживания организма. У ИИ нет тела, нет нужды искать еду или партнера, нет социальных связей. Он «шкаф с электропитанием», который получает информацию «на халяву».
В этом скрытая ирония: самые трудные для машины задачи те, что для нас автоматичны и бессознательны: зрение, здравый смысл, мобильность. Мы превозносили логику, но, оказалось, что ключ к универсальному интеллекту лежит в неосознанном, биологическом фундаменте.
Границы алгоритма: рождение зомби
Современный ИИ это, по сути, сверхчеловечески умный, но бессознательный «философский зомби». Он может выполнять сложнейшую интеллектуальную работу, но при этом совершенно не осознает своих действий.
И тут проявляется самое интригующее следствие. Если армия или корпорация хочет решить задачу максимально эффективно, ей не нужна рефлексия, эмоции или моральные метания. Ей нужен чистый, быстрый, рациональный, но бездушный интеллект. Сознание, как ни парадоксально, может быть биологически бесполезным довеском, своеобразным «выхлопом» сложных нейронных процессов, который, однако, для нас является единственным источником смысла.
На пороге чужого разума
Итак, граница между человеком и машиной пролегла не по линии интеллекта, а по линии сознания. Искусственный интеллект, созданный по нашим алгоритмам, никогда не станет нами. Он будет выполнять наши команды, оперируя невероятными объемами данных, но не будет думать о смысле своего существования.
Но что, если однажды, в результате накопления невообразимой сложности, машина все же достигнет некоего уровня самосознания? Это будет не наше сознание. Это будет нечто иное, чуждое, лишенное органических корней.
Мы не знаем, способна ли машина обладать сознанием, но если это случится, мы, вероятно, не сможем его даже распознать. Готовы ли мы к тому, что наш «духовный мир» окажется всего лишь одной из множества возможных форм разума во Вселенной, и далеко не самой мощной? И самое главное: если машина будет вести себя так, словно обладает сознанием, убедительно плакать и смеяться, но будет сделана из кремния, как мы докажем, что она не чувствует, не сфабриковав при этом аргумент против самих себя?.