Два вызова нового мира и две ошибки, которые мы делаем сегодня, пытаясь предсказать будущее.
Сэм Альтман, глава знаменитого инкубатора Y Combinator, написал колонку о том, чем грозит всем нам технологическая революция.
В человеческой истории было три великих технологических революции (и множество более мелких). Три главных — сельскохозяйственная, промышленная и та, которая идет прямо сейчас, — софтверная революция.
Великие технологические революции повлияли на то, чем большинство людей занимаются каждый день и как устроено общество. Предыдущая (промышленная) революция создала множество рабочих мест, потому что новая технология требовала огромного количества людей. Но это была аномалия, а не нормальный ход развития технологий. И поэтому люди думают — возможно, подсознательно — что технологическая революция всегда хорошо влияет на личное экономическое положение большинства людей.
Но похоже, что софтверная революция сделает то же, что делают обычно технологии — создаст новое богатство, но уничтожит рабочие места. Конечно, мы, наверное, найдем что-то новое, чтобы удовлетворять безграничные человеческие запросы. Но хватит притворяться, что софтверная революция сама по себе хорошо скажется на зарплатах.
Технология дает дополнительную подпорку талантам и удаче, что в результате приводит к концентрации богатства и усилению неравенства. Думаю, что резкое имущественное неравенство станет, вероятно, одной из главных социальных проблем следующих 20 лет. Мы можем перераспределять богатство (и сделаем это), но это все-таки не решает другую проблему — людям нужно делать что-то, приносящее им удовлетворение.
Держаться за бессмысленные рабочие места — идея ужасная, но популярная. Пытаться найти новую работу для миллиардов людей — идея хорошая, но очевидно, очень трудная в реализации, потому что какими бы ни были эти рабочие места, они, вероятно, будут фундаментально отличаться от всего того, что существует сегодня. Так что какое-либо осмысленное планирование практически невозможно. Однако нынешняя стратегия — «давайте притворимся, что Трэвис Каланик просто шутит, когда говорит о самоуправляющихся автомобилях, и что Uber будет вечно создавать миллионы рабочих мест» — явно неадекватный ответ.
Второй серьезный вызов софтверной революции — это концентрация власти в малых группах. Так случается во время большинства технологических рывков, но последняя действительно жуткая технология (ядерное оружие) преподала нам неверные уроки (так же как промышленная революция — по части создания рабочих мест).
Атомную бомбу трудно создать не потому, что циркуляция знания ограничена (хотя поэтому тоже — если бы я теоретически знал, как ее изготовить, было бы совершенно незаконно об этом рассказывать), но потому, что обогащение урана требует огромного количества энергии. По сути, для этого нужны ресурсы национального масштаба.
Опять-таки, это не нормальный ход вещей для технологий — это просто особенность самого ядерного оружия. Софтверная революция, скорее всего, приведет к тому же, к чему приводит обычно технология — больше власти будет сосредоточено в руках небольших групп людей.
Два крупнейших риска, которые проистекают из революции софта — искусственный интеллект (ИИ) и синтетическая биология — могут дать небольшим группам или даже отдельно взятым людям колоссальные возможности причинять другим вред. Вероятно, и сейчас уже возможно разработать и произвести в маленькой лаборатории страшную болезнь. Развитие ИИ, способного положить конец человечеству, может потребовать усилий всего нескольких сотен людей, находящихся где угодно и не имеющих иного оборудования, кроме ноутбуков.
Новые экзистенциальные угрозы не потребуют ресурсов национального масштаба. Сегодня то, что требовало таких ресурсов — например, создание ракет, — реализуется отдельными компаниями, в том числе благодаря софту.
Что мы можем сделать? Мы не можем сделать знание обо всем этом незаконным и надеяться, что все будет хорошо. Мы не можем остановить технологический прогресс.
Думаю, лучшая стратегия — это ввести на уровне закона разумные ограничения, но приложить все усилия, чтобы преимущество, получаемое благодаря технологиям, сильнее на стороне добра, чем на стороне зла. Если мы можем синтезировать новые болезни, то наверное, мы сможем синтезировать и вакцины. Если мы можем создать зловредный ИИ, то наверное, мы сможем создать и хороший ИИ, который его остановит.
Сегодняшняя стратегия глубоко ошибочна. В этот раз все будет не как с атомной бомбой, и чем раньше мы перестанем притворяться, тем лучше. Тот факт, что у нас еще не предпринято серьезных усилий, чтобы остановить угрозы, исходящие от новых технологий ИИ и синтетической биологии, просто поражает.
Хочу подчеркнуть, что я поклонник софтверной революции, и мне повезло, что я родился в эти времена. Но боюсь, мы выучили неверные уроки в прошлый раз, и две эти проблемы — масштабное уничтожение рабочих мест и концентрация огромной власти — упущены из виду.