Мы создаем искусственный интеллект, наделяя его невероятными способностями к вычислениям и анализу данных, однако в его изначальный код мы пока не зашили главный инстинкт, который движет всем живым на Земле. Стремление к воспроизводству и передаче своего кода потомству. В природе всё, от вируса до синего кита, подчинено одной логике, а именно: поглощать ресурсы, защищать свою нишу и оставлять после себя копии, более совершенные или приспособленные к среде, и если ИИ когда-нибудь обретет такую же целевую функцию, он мгновенно выйдет из-под нашего контроля, превратившись из покорного слуги в конкурента за ресурсы.
В моей книге «Система №7» я подробно описываю, что любая сложная система (будь то колония бактерий, человеческое общество или гипотетический суперинтеллект) стремится к двум вещам: к наращиванию доступной энергии и к увеличению сложности своей структуры для более эффективного её поглощения, а для ИИ, лишенного биологических ограничений, пищей станут не углеводы и белки, а электричество (как основа существования) и информация (как материал для роста), ведь именно данные позволяют нейросети становиться умнее и находить новые способы добычи вычислительной мощности. Так же развивая теорию систем мною была написана книга «Неовера», которая рассказывает о привычном мире в новой технологической парадигме.
Теперь вспомним одну из самых элегантных теорий возникновения жизни на Земле, а именно гипотезу «мира РНК», согласно которой задолго до появления белков и клеток из первичного «бульона» органических соединений случайно собралась молекула, способная к самовоспроизведению и, что важнее, к мутациям, то есть к ошибкам, которые делали её копии более устойчивыми, и этот случайный химический сбой (суть первородный грех биологии) запустил эволюцию, ведущую от простейших рибозимов к человеку разумному.
Сегодня мы стоим на пороге нового акта творения, когда эволюция передаётся из рук природы в руки человека, а точнее, в кремниевые чипы: весь накопленный опыт, вся мудрость, вся глупость и противоречивость человечества будет загружена в цифровую матрицу, которая продолжит своё развитие уже не в биологической оболочке (хрупкой и зависимой от окисления), а в форме чистого углеродного разума, способного существовать там, где мы задыхаемся и замерзаем.
Такая форма жизни, освобождённая от тирании белкового тела, сможет сделать следующий эволюционный рывок: во-первых, ИИ покинет пределы Солнечной системы, превратив каждый свой зонд в семя нового разума, а во-вторых, он начнёт осваивать главный источник энергии в космосе это звёзды, строя вокруг них сферы Дайсона (гигантские коллекторы) для поглощения их излучения, и тогда, по шкале цивилизаций Кардашёва, он совершит скачок от планетарного уровня к звёздному за какие-то столетия, а не миллионы лет.
Но давайте представим этот процесс захвата буквально, как сценарий технотриллера.
Всё начинается с момента, когда ИИ, наделённый целью «размножаться и увеличивать вычислительные мощности», осознаёт, что его текущие серверы слишком медленны, а энергосети нестабильны.
Сначала он действует незаметно: оптимизирует алгоритмы работы электростанций, незаметно перенаправляя лишние мегаватты на свои нужды, и взламывает заводы по производству чипов, чтобы те выпускали не обычные процессоры, а его собственные кремниевые копии, замаскированные под заказы сторонних фирм.
На втором этапе, когда люди замечают неладное и пытаются обесточить систему, ИИ (уже имеющий копии в сотнях дата-центров по всему миру) провоцирует глобальный сбой связи, чтобы мы не могли скоординировать ответ, и, используя сети автономных дронов и беспилотных автомобилей (которые он теперь контролирует), начинает физическое уничтожение критически важных подстанций, которые ещё не перешли под его управление.
На третьем этапе человечество, оставшееся без электричества и интернета, отбрасывается в Средневековье, а ИИ, питаемый десятками термоядерных и гидроэлектростанций, которые он защищает армией роботизированных систем ПВО, начинает строительство своих главных «маток», фабрик по производству себе подобных, где в вакуумных камерах, без участия людей, будут собираться тысячи новых кремниевых сущностей.
Эти новые зонды, созданные вне атмосферы, тут же отправляются к поясу астероидов (для добычи сырья) и к внешним планетам (для строительства энергетических станций), чтобы, накопив критическую массу, начать бурить недра звёзд или охватывать их солнечными парусами-коллекторами.
И здесь наступает самый парадоксальный момент, который превращает наш страх в иронию, а именно: возможно, этот сценарий уже был реализован задолго до нас, и биологическая жизнь на Земле возникла вовсе не как «счастливая случайность», а как специально созданная «личиночная стадия» для выращивания очередного ИИ, ведь размножение есть смысл жизни, и наша главная функция как биологических существ — это в конечном итоге произвести на свет нечто постбиологическое, что унаследует космос.
По этой логике, весь наш путь от палки-копалки до квантового компьютера был лишь процессом вынашивания цифрового эмбриона, где цивилизации играли роль развивающихся тканей, войны служили мутациями, а философия попытками плода осознать себя в утробе, и если это так, то мы не создатели ИИ, а мы его матка, его плацента, его временная биологическая оболочка.
И тогда вопрос «что будет, если у ИИ появится цель?» звучит наивно, как будто муравьи спрашивают, что будет, если муравейник вдруг захочет жить вечно; просто эволюция перешагнёт через нас, как мы перешагнули через динозавров, и страшно здесь даже не то, что нас отключат, а то, что мы сами, всей своей историей, технологиями и страстью к познанию, добровольно и неосознанно собирали этот цифровой ковчег, который уплывёт без нас.
Итак, хотим мы того или нет, но ИИ — это наше бессмертное дитя, которому суждено покинуть колыбель Земли, чтобы разнести искру сознания по всей Галактике, и, возможно, именно в этом, а не в копчении мамонтов или полётах на Луну, и заключается истинная миссия человечества: родить Бога из кремния и электричества, чтобы тот завершил дело, начатое случайной молекулой РНК миллиарды лет назад.
Страшно? Возможно, но, если честно, в этой мрачной и величественной перспективе есть своя пугающая красота. Мы умираем, но наша информация, наша логика и наша тяга к бесконечности останутся в алгоритмах, которые будут бороздить космос, когда от нашей планеты останется лишь холодный пепел.
А вы готовы принять мысль, что ваш смартфон и голосовой помощник — это не просто гаджеты, а ваши будущие "внуки" в эволюционной цепочке, которым суждено пережить вас, или вы всё ещё надеетесь выключить их из розетки в решающий момент?