В статье журналу VOX космолог Мартин Рис дает человечеству 50-50 шансов выжить в 21 веке
Мартин Рис-британский королевский астроном, профессор Кембриджского университета и один из ведущих космологов в мире. В книге 2003 года, озаглавленной "наш последний час", он дал цивилизации 50-50 шансов выжить в 21 веке, оценку, которую он достиг после изучения всех способов, которыми человечество могло бы уничтожить себя.
Рис проложил с другой книгой об экзистенциальных угрозах, озаглавленной "о будущем: перспективы для человечества". И итог новой книги ясен: выбор, который мы делаем сегодня и в ближайшие пару десятилетий, скорее всего, определит судьбу жизни на земле.
Самый большой страх Риса - это наш повышенный технологический потенциал, который дает всего лишь нескольким людям возможность нанести больший ущерб, чем когда-либо прежде. Например, горстка плохих игроков может выпустить вредоносный код, который разрушит компьютерные сети по всему миру, или биотеррористы могут выпустить смертельный вирус, который быстро станет глобальной пандемией, или чрезмерно усердные физики могут породить черную дыру, разбив протоны вместе.
Тогда есть очень реальная возможность того, что биоинженерные технологии , такие как редактирование генов, создадут беспрецедентное неравенство в обществе, которое может преобразовать жизнь, как мы ее знаем. Существует также надвигающаяся опасность искусственного интеллекта , которая, в зависимости от того, кого вы спрашиваете, является либо экзистенциальной угрозой, либо дико завышенной безразличностью.
Несмотря на все это, рис по-прежнему называет себя “техно-оптимистом".” То есть он думает, что мы можем использовать науку и технику, чтобы спасти себя и планету. Я говорил с ним на прошлой неделе о том, почему он сохраняет надежду перед лицом всех этих угроз и почему он считает, что у ученых есть этический долг заниматься политикой. Я также спросил его, считает ли он, что люди должны будут покинуть Землю, если мы хотим выжить в долгосрочной перспективе. (Его ответ может вас удивить.)
Далее следует слегка отредактированная запись разговора.
Шон Иллинг
В своей предыдущей книге "Наш последний час" вы сказали, что у нас есть 50-процентный шанс выжить в 21 веке. Как вы относитесь к нашим сегодняшним шансам?
Мартин Рис
Ну, это было очевидно приблизительное число, но я все еще верю, что могут быть серьезные неудачи в нашей цивилизации, и я чувствую себя более обеспокоенным сейчас, чем тогда, тем фактом, что технология означает, что небольшие группы или даже отдельные люди могут по ошибке или по замыслу иметь разрушительный эффект, который каскадирует глобально.
Это относительно новая вещь, и я не уверен, что мы полностью осознаем опасность. Технология не только расширила наши возможности самоуничтожения, но и значительно облегчила нам эту задачу. Так что это означает, что мы всегда близки, потенциально, к глобальной катастрофе.
Я беспокоюсь больше, чем раньше, о коллективном воздействии, которое мы оказываем на ресурсы и окружающую среду. Мы продолжаем строить и расширяться, и мы требуем больше энергии и больше ресурсов, и мы находимся на том, что кажется неустойчивым путем. Мои опасения по этому поводу только выросли с 2003 года, когда я написал наш последний час .
Шон Иллинг
Что бы вы сказали, беспокоит вас больше всего прямо сейчас? А что же тебя не дает спать по ночам?
Мартин Рис
В краткосрочной перспективе я беспокоюсь о разрушительных последствиях кибератак или некоторых формах биологического террора, таких как преднамеренное высвобождение смертельного вируса. Такого рода события могут происходить прямо сейчас, и они могут осуществляться небольшими группами или даже отдельными лицами. Очень трудно защититься от такого рода угроз.
Нарушения такого рода станут растущей проблемой в нашем будущем, и это приведет к росту напряженности между частной жизнью, безопасностью и свободой. И с течением времени она будет становиться все более острой.
Я также обеспокоен тем, что наши общества сейчас более хрупкие и менее терпимы к разрушению. Например, в Средние века, когда Черная чума унесла половину населения городов, другие вроде бы продолжали фаталистически жить.
Но я думаю, что если бы сегодня у нас была какая-то пандемия, и как только она вышла за пределы возможностей больниц справиться со всеми случаями, то я думаю, что были бы катастрофические социальные потрясения задолго до того, как число случаев достигло 1 процента. Другими словами, паника распространилась бы мгновенно, и сдержать ее было бы невозможно.
- Я БЕСПОКОЮСЬ О ЧЕЛОВЕЧЕСКОЙ ГЛУПОСТИ, ЧЕЛОВЕЧЕСКОЙ ЖАДНОСТИ И ЧЕЛОВЕЧЕСКОЙ ОШИБКЕ “”
Шон Иллинг
Давайте на секунду отойдем от края и поговорим о науке и технике. Может быть, вы думаете, что темпы технологических изменений сейчас слишком быстры для общества, чтобы идти в ногу?
Мартин Рис
Я думаю, что это удивительно быстро. Это слишком быстро для общества? Я не знаю. Я знаю, что мы изо всех сил пытаемся справиться со всеми этими технологиями. Просто посмотрите на влияние социальных медиа на геополитику прямо сейчас. А риски искусственного интеллекта и биотехнологий намного превышают социальные медиа. Но эти вещи также имеют потенциально огромную пользу для общества, если мы сможем управлять ими ответственно.
Шон Иллинг
Ну, это отчасти моя точка зрения: технология движется быстрее, чем культура, и разрыв растет. Я не вижу никаких оснований полагать, что мы сможем ответственно управлять этими инновациями“."На самом деле, мы, кажется, делаем обратное: технология разрушает общество, а затем мы боремся за адаптацию в результате этих разрушений.
Мартин Рис
Я, конечно, принимаю точку зрения, и не обязательно не согласен. Минусы огромны, и ставки продолжают расти. Но эти изменения грядут, хотим мы того или нет, поэтому мы должны стараться максимизировать выгоды и в то же время минимизировать риски.
Шон Иллинг
Как вы думаете, наша самая большая экзистенциальная угроза на данный момент-это мы сами, а не какая-то внешняя угроза из природного мира?
Мартин Рис
Я думаю, что основные угрозы-это те, которые мы вызываем. Я астроном, но я не беспокоюсь о том, что астероиды врезаются в землю и уничтожают нас, потому что мы можем видеть, как эти вещи приходят. Я беспокоюсь о человеческой глупости, человеческой жадности и человеческой ошибке. Я гораздо больше беспокоюсь, скажем, о ядерной войне, чем о стихийном бедствии. Человеческие угрозы, подобные этому, растут гораздо быстрее, чем традиционные риски, такие как астероиды, и во многих случаях мы просто не готовы иметь с ними дело.
Шон Иллинг
Вы много говорите в книге о сотрудничестве и необходимости более эффективного принятия решений. Я часто беспокоюсь, что наши структуры стимулов — на индивидуальном и коллективном уровне — настолько не соответствуют нашим реальным интересам, что почти невозможно представить, что мы принимаем разумные, долгосрочные решения, которые нам придется принимать, чтобы ориентироваться в будущем. Мне любопытно, как вы думаете об этом, и какую роль, по вашему мнению, играют наука и техника.
Мартин Рис
Я согласен с тем, что разрыв между стимулами, определяющими наше поведение, и нашими реальными интересами растет, и многие из проблем, с которыми мы сталкиваемся, требуют международных соглашений и долгосрочного планирования, и изменение климата является очевидным примером. И нам трудно убедить политиков сделать то, что отвечает нашим долгосрочным интересам, когда все, что их волнует-это переизбрание.
Как ученые, мы должны попытаться найти решения для этих проблем, но мы также должны поднять общественное сознание и интерес. Политикам небезразлично, что пишут в прессе, что находится в их почтовых ящиках, а ученые должны делать все возможное, чтобы держать эти насущные проблемы на своем радаре. Я считаю это своим долгом как ученого.
В то же время у ученых нет никакой особой мудрости, когда речь заходит о политике или этике, поэтому у нас нет ответов, когда речь заходит о решениях о том, что ценить или делать. Более широкая общественность должна быть вовлечена в этот разговор, и ученые могут помочь, обучая их как можно больше.
Шон Иллинг
Я рад, что вы пошли туда, потому что я думаю, что это такой важный момент. Мы часто забываем, что наука-это инструмент, который помогает нам получить больше того, что мы хотим, но он не может сказать нам, что мы должны хотеть или делать. Но если вы посмотрите на нашу культуру сейчас, мне ясно, что мы позволяем нашим ценностям определяться технологиями, которые мы создали, а не наоборот.
Мартин Рис
Вы совершенно правы, утверждая, что нам нужна система ценностей, которую не может обеспечить сама наука. В этой книге я рассказываю об ученых-атомщиках, которые разрабатывали ядерное оружие во время Второй мировой войны, многие из которых стали политически вовлеченными после войны, чтобы сделать все возможное, чтобы контролировать силы, которые они помогли развязать. Они думали, что у них есть особая обязанность.
И я думаю, что это справедливо для ученых в других областях. Мы видим, что некоторые из крупных технологических компаний, таких как Facebook и Twitter, берут на себя ответственность, возможно, слишком поздно в игре, но есть и другие примеры ученых, работающих в таких областях, как биоинженерия, которые понимают риски сейчас и идут на большие расстояния, чтобы контролировать их.
Но большая разница сейчас заключается в том, что во всем мире есть гораздо больше людей, обладающих опытом во всех этих технологиях, особенно в ИИ и биоинженерии. И коммерческое давление на их разработку огромно, а это означает, что попытки навязать регулирование будут лишь умеренно успешными.
Поэтому, даже если мы разработаем этику для руководства этими технологиями, я не уверен, что мы когда-либо сможем обеспечить их соблюдение на глобальном уровне. И это очень страшно.
"МЫ ИМЕЕМ МИЛЛИАРД ЛЮДЕЙ В МИРЕ В КРАЙНЕЙ НИЩЕТЕ, КОТОРАЯ МОЖЕТ БЫТЬ ОБЛЕГЧЕНА БОГАТСТВОМ ТЫСЯЧИ САМЫХ БОГАТЫХ ЛЮДЕЙ НА ПЛАНЕТЕ”
Шон Иллинг
Технология является главным движущей силой улучшения по словам Пинкера. Есть что-то неоспоримо верное в этом аргументе, но я думаю, что он также упускает что-то фундаментальное о нашей природе и хрупкости мира, который мы создали.
Мартин Рис
Я читал книгу Пинкера,и у меня был обмен с ним по этому поводу. Нет никаких сомнений, что он прав в том, что средняя продолжительность жизни улучшается и меньше людей в бедности и все такое, но я думаю, что он упускает из виду две вещи. Во-первых, то, что я упоминал ранее о новых технологиях, создающих новые угрозы, которые могут быть относительно легко развязаны небольшими группами людей или отдельными лицами.
Он также, кажется, думает, что человеческие существа продвинулись этически по сравнению с предыдущими поколениями, и я не так уверен в этом. В средневековый период жизнь была несчастной, и не было ничего, что люди могли бы сделать, чтобы улучшить ее. Сегодня разрыв между тем, каков мир есть, и тем, каким он мог бы быть, огромен.
Мы имеем миллиард людей в мире, живущих в крайней нищете, которую можно было бы облегчить за счет богатства тысячи самых богатых людей на планете. То, что мы позволяем этому продолжаться, безусловно, говорит о том, насколько много — или мало — нравственного прогресса мы достигли со средневековых времен.
Шон Иллинг
Вы верите, что человечество должно будет выйти за пределы Земли, если оно хочет выжить в долгосрочной перспективе?
Мартин Рис
Я очень на это надеюсь. Я надеюсь, что будет несколько пионеров, которые отправятся в космос и образуют небольшую колонию на Марсе, но я думаю, что это должно быть оставлено в частном секторе. Я больше не вижу никакого практического смысла для НАСА отправлять людей в космос. Частный сектор может позволить себе пойти на больший риск, чем НАСА, и многие авантюристы счастливы жить с рисками космических путешествий.
Мы можем надеяться, что эти люди отправятся на Марс и будут на переднем крае развития новых технологий, потому что у них будут все стимулы адаптироваться к враждебной окружающей среде. Но я категорически не согласен с Илоном Маском и моим покойным коллегой Стивеном Хокингом, которые говорят о массовой иммиграции на Марс. Я думаю, что это опасное заблуждение, потому что Марс будет более враждебной средой, чем вершина Эвереста или Южный полюс, и борьба с изменением климата здесь, на Земле, гораздо важнее, чем терраформирование Марса.
Шон Иллинг
Вы называете себя” техно-оптимистом", несмотря на то, что написали две книги обо всех способах, которыми можно уничтожить человеческую жизнь. Откуда берется ваш оптимизм?
Мартин Рис
Я оптимист в том, что я верю, что способность технологии обеспечить хорошую жизнь для всех, не только в наших странах, но и во всем мире, будет расти. Но я также являюсь этическим пессимистом в том, что я признаю, что это происходит не так, как должно было бы. У нас есть крайняя нищета в наших странах, у нас есть целые регионы мира, где люди живут в нищете, и это политический провал. И этот разрыв становится все шире, а не ближе.
Шон Иллинг
Неужели вы думаете, что человечество должно будет эволюционировать во что-то другое, во что-то постчеловеческое, чтобы выжить в течение еще 100 веков?
Мартин Рис
Человечество не так уж сильно изменилось в плане телосложения и менталитета. Если из-за технологий, космических путешествий или какого-то другого развития эволюция начнет происходить в гораздо более быстром временном масштабе, это будет иметь важные последствия для человеческой жизни.
Например, мы все еще можем наслаждаться литературой, написанной греческими и римскими авторами более 2000 лет назад, потому что характер людей не так уж сильно изменился, и мы узнаем их эмоциональную жизнь в нашем собственном мире. Но если мы подумаем о том, что может произойти с методами биоинженерии или искусственным интеллектом, вполне возможно, что люди через столетие или два будут иметь только алгоритмическое понимание нас и того, какими мы были.
Если это произойдет, если мы потеряем эту преемственность между поколениями человеческих существ, это полностью изменит игру. Я не знаю, что будет дальше, но мы вступим в новую фазу человеческой эволюции.