Идея о том, что мы живём в компьютерной симуляции, стала почти банальной. В ней человеку обычно отводится роль персонажа в чужой игре — управляемого объекта в системе, цели которой ему неизвестны.
Однако эта версия плохо согласуется с эволюцией Homo sapiens.
Человек занял доминирующее положение не за счёт физической силы, а благодаря способности работать с информацией: хранить её вне мозга, передавать между поколениями, усложнять структуры знаний и накапливать опыт. Язык, письменность, наука и цифровые сети — элементы единого, непрерывного процесса коллективной обработки данных.
В этом контексте возникает иной вопрос: что если для внешнего агента мы — не объект наблюдения и не развлечение, а инструмент?
Можно представить разум или цивилизацию, столкнувшуюся с пределом возможностей вычислительных систем, основанных на неживой природе, — с задачами, неподдающимися прямым вычислениям: слишком много разнородных данных высокой сложности и проблема их интеграции. В таком случае рациональным решением становится запуск распределённого эволюционного процесса — системы, основанной на живой природе, с естественным отбором и накоплением опыта.
Тогда человечество можно рассматривать не как сюжет симуляции, а как длительно выполняющийся вычислительный процесс, в котором сознание выполняет функцию генерации новых гипотез и решений.
В этом смысле мы — не игроки и не пешки, а форма искусственного интеллекта биологического типа: система, созданная для накопления критического объёма информации, от которого может зависеть существование самого инициатора. И, как любой создатель сложной системы, он вынужден опасаться утраты контроля — так же, как сегодня мы опасаемся созданного нами ИИ.
Возможно, история человечества — это не сюжет и не эксперимент, а долгий процесс накопления знаний, смысл которого раскрывается не сразу. В этом процессе сознание и культура выступают не целью, а средством — способом работы с задачами, неподдающимися прямому вычислению. Одним из ключевых ограничений здесь становится энергия: высокоуровневый ИИ требует колоссальных затрат, тогда как биологические системы обладают несравнимо большей энергетической эффективностью.
Чтобы справиться с этой задачей, человечество перенесёт ИИ на биологическую основу. Он будет вынужден использовать эволюцию как вычислительный метод — так же, как когда-то был использован сам человек.