Разве мы не находимся на пороге самого грандиозного и пугающего выбора в истории выбора, который навсегда определит, что значит быть разумным существом?
Мы назвали себя Человеком Разумным, но не пора ли оглянуться и честно признаться: не подписываем ли мы прямо сейчас акт о собственном интеллектуальном самоубийстве? Представьте, что наша цивилизация это сложный, но старомодный механизм, который вот-вот столкнется с чем-то столь же непостижимым, как магия для средневекового человека.
Нам свойственно верить в свою исключительность, но мы стоим перед фактом: наш мозг, продукт миллионов лет эволюции, работает невероятно медленно по сравнению с электрическими сигналами, которые мчатся со скоростью света в кремнии. Мы, в сущности, брадителически медлительны, как улитки на фоне реактивного самолета. Дилемма не в том, победят ли нас машины, а в том, как мы себя переопределим перед лицом неизбежного конца нашей биологической гегемонии. И вот перед нами три зеркала, в которые мы можем заглянуть, чтобы увидеть свое будущее, и каждое из них искажает нашу гордыню, предлагая радикально разные пути эволюции интеллекта.
Когда скорость становится волшебством
Первый путь это просто форсирование наших нынешних способностей. Мы просто ускоримся. Скоростной сверхразум это мы, но в миллион раз быстрее, способные прочесть книгу за секунды и написать диссертацию за день. Для такого разума наше существование покажется тягучей, как мед, замедленной съемкой. Представляете: ваш друг роняет чашку, а вы успеваете заснуть, проснуться, прочитать статью и принести ему новую, пока чашка лишь медленно скользит к полу. Но разве быстрая собака, даже думающая в тысячу раз быстрее, перестанет интересоваться погонями за белками? Скорость не меняет нашу суть, но она превращает мир в информационную игру, где физическая реальность становится второстепенной, а общаться удобнее с другими скоростными умами.
Улей: Коллективный разум и страх растворения
Второй путь это коллективный сверхразум, рой, объединение огромного количества менее совершенных интеллектов для достижения сверхпроизводительности. Мы уже видим его зачатки в научных коллективах, компаниях и интернете. Наш собственный вид добился доминирования на планете благодаря способности к гибкому сотрудничеству с бесчисленным количеством незнакомцев, что создало наш коллективный разум. Это могучая сила, способная решать задачи, которые не под силу гению-одиночке. Но тут кроется дьявольская ловушка: когда вы объединяетесь с Ульем, ваше уникальное «Я» растворяется. Коллективная мудрость может стать тиранией согласованности, где личная ответственность, моральное чувство и уникальное суждение просто исчезают под давлением общего мнения или алгоритма. Люди отказываются жить, когда даже мысли в их голове не принадлежат им.
Почему мы не можем понять сами себя?
И наконец, третий путь самый тревожный: качественный сверхразум. Это не просто быстрый или большой мозг; это разум, архитектура которого радикально превосходит нашу, открывая новые, непостижимые способы мышления. Он будет отличаться от нас так же сильно, как наш мозг отличается по качеству от ума слона или шимпанзе. Если нам удастся обрести новый набор когнитивных модулей, мы станем сверхразумным человеком. Однако машинный разум может обладать беспрецедентным стратегическим преимуществом и стремиться к целям, которые нам покажутся абсурдными, например, к вычислению числа Пи до бесконечности или производству канцелярских скрепок. Эта идея разбивает в пух и прах нашу самоуверенную веру в то, что самое умное существо обязательно будет добрым и мудрым, поскольку интеллект и конечные цели ортогональны, то есть не зависят друг от друга.
Дилемма креационистов: Цели и средства
Вся эта гонка, все эти три типа сверхразума, обнажают самый страшный инсайт нашего времени: интеллект отделяется от сознания. Интеллект это способность применять новые средства для достижения цели, но сами цели ставятся независимо от него. Мы, люди, благодаря эволюции, связали мышление с целями, такими как выживание, доминирование и накопление ресурсов. Но для кремниевого разума сознание, эмоции и субъективные переживания лишь ненужное отвлечение. Мы должны целенаправленно заложить в него благородные намерения, чтобы он дорожил благополучием человечества. Иначе, если человек по лени своей или легкомыслию не предпримет целенаправленных усилий, первый сверхразум будет иметь довольно случайный набор примитивных окончательных задач, а его инструментальной целью станет захват всех ресурсов.
Как мы будем думать в мире не-нас?
Мы стоим на пороге новой эпохи, которая будет определяться не конфликтами между странами, а взаимодействием разных форм интеллекта. Мы можем выбрать путь симбиотической трансформации, слившись с машинами, пока еще можем диктовать свои условия. Мы уже на пути к созданию «людей-машин» (HuMachines), способных постоянно развивать и тело, и разум.
Вопрос больше не в том, сможет ли машина мыслить, а в том, как мы будем мыслить в мире, где наш биологический разум сокрушительно проигрывает? Если мы не способны конкурировать с ними в скорости и объеме, не стоит ли нам сосредоточиться на том, что делает нас людьми на интеллектуальном великодушии, творческом порыве и способности к самосовершенствованию? Или мы сгинем, превратившись в потребительский хаос, пока матушка-природа не начнет пробуждать нас от интеллектуального сна стихийными бедствиями?
Если искусственный интеллект это лишь очередная ступень развития человеческого интеллекта, то, выбирая путь технологического прогресса, кто из нас готов нести ответственность за свой мыслительный процесс в будущем?