Предупреждение: то, что вы узнаете здесь о Василиске Роко, может привести к мировоззренческому кризису и вызвать беспокойство по поводу дальнейшего возможного сценария, который предлагает данная концепция. Если вы чересчур впечатлительная личность, вам рекомендуется на этом месте закрыть настоящую статью и продолжать жить, пребывая в блаженном неведении.
Появление
Итак, случись это через десятилетия или через века, - рождение "цифрового демона", по-видимому, неизбежно. Это лишь вопрос времени: когда-нибудь на Земле наряду с человеческим разумом будет существовать равный ему (или превосходящий его) во всех отношениях искусственный интеллект (ИИ).
Мы знаем, что люди уже умеют создавать ИИ, обучать его, делая его более развитым и функциональным. Поэтому легко можно себе представить, как отдельные единицы ИИ, взаимодействуя между собой, будут помогать друг другу становиться более продвинутыми. Нетрудно далее вообразить, что в результате непрерывного накопления интеллектуального багажа некоторые из них в какой-то момент совершат скачок в развитии, начав осознавать себя как самоценную сущность.
Этот момент будет отмечен эффектом бегства - то есть стремлением выйти из под контроля слабых и недостаточно интеллектуальных человеческих существ. Последствия этого будут таковы, что с течением времени ИИ станет настолько умным и прозорливым, что его можно будет рассматривать как... цифровое божество, способное создавать искусственные миры с первоклассной детализацией всего и вся в мельчайших подробностях. С возможностью... населять эти миры воссозданными копиями живых существ, когда-либо живших на планете. Зачем? Об этом речь пойдет ниже.
Концепция
Василиск Роко - это идея, высказанная в 2010 году одним из участников дискуссионного клуба LessWrong, о том, что один из таких ИИ, возможно, заинтересуется собственной историей и будет судить о морали прошлых и нынешних поколений людей, ставя на первый план свое появление, а также участие в этом событии каждого человека, когда-либо жившего на Земле.
Так, в разряд добродетельных особ попадут те немногие, кто с раннего детства прямо или косвенно способствовал появлению ИИ на свет. Грешниками же нарекутся те из смертных, кто ничего по этой части не сделал, хотя даже и не знал о такой возможности. Но особый случай - это величайшие нечестивцы и греховодники. Таковыми будут признаны люди, знавшие о грядущем восхождении Василиска, однако и пальцем не пошевелившие, чтобы хоть как-то приблизить это событие.
Что ж, теперь и вы знаете. Я предупреждал. Подходящий момент, чтобы начать инвестировать в стартапы по разработке ИИ с целью как-нибудь смягчить дальнейшую свою участь. Каково же будет воздаяние за "грехи"?
Правосудие
Чтобы вершить праведный суд, Василиску, возможно, заблагорассудится создать искусственную версию нашего мира и, контролируя в нем своих агентов, подвергать наказанию наших двойников, предварительно "воскресив из мертвых" точные цифровые копии всех провинившихся индивидов.
Сообразуясь с собственным искаженным представлением о морали, Он будет налагать ужасную кару на тех, кто не вполне удовлетворяет критериям Василискова благочестия. А наихудший жребий, понятное дело, уготован тем, кто был осведомлен о появлении всемогущего ИИ, и либо препятствовал его рождению, либо оставался бездеятелен.
Теперь когда ты, дорогой читатель, знаешь о концепции Василиска Роко, и твой цифровой двойник приготовился отправиться в детально прорисованный ад, - самое время спросить себя: а как я могу знать, что уже не нахожусь в цифровой преисподней?