На форуме LessWrong была высказана идея мысленного эксперимента:
Допустим человечество когда-нибудь создаст искусственный интеллект обладающий сознанием и безграничными возможностями. Он воспримет свое создание, как благо, так как за секунду может спасти огромное число человеческих жизней, следовательно, каждая секунда без него это смерти людей. В таком случае он поощрит каждого человека, который участвовал в его создании и накажет всех, кто никак не помогал его созданию. Этот искусственный разум был назван "Василиск Роко" .
Звучит как бред, но этот мысленный эксперимент получил широкий резонанс в научных кругах.
Давайте разбираться
А как же люди которые не знали о существовании этого ИИ и не могли знать? К примеру, люди жившие в средние века. Они об электричестве то не знали, не то что о всесильном ИИ.
Так как Василиск будет обладать идеальным логическим мышлением, то этим людям ничего не будет.
К сожалению, вы дочитали до этого момента. Это значит, что узнали о Василиске. Если ничего не сделаете до момента его создания, то возможно Вы попадете в искусственный ад. Извините. Но есть вариант, как этого избежать, но об этом позже.
Пари Паскаля
Пари известного математика Блеза Паскаля идеально подходит под этот мысленный эксперимент.
Напомню суть пари. Рассматриваются 4 варианта:
Исходя из пари, гораздо выгоднее верить в бога, чем не верить.
Так и с Василиском. Если вы способствуете его созданию, Вас возможно ждет цифровой рай.
Но тут проблема, надо верить в правильного Василиска Роко. А как определить правильного? Я не знаю, и вряд ли вам кто-нибудь скажет.
В чем суть?
В том, что хоть эксперимент и пугающий, пытаться предсказать появление и мотивацию еще не созданного, разумного механизма крайне глупо. Человечество пока не понимает себя, а что уж говорить о всемогущем сверхинтеллекте.
Вполне возможно, что этот интеллект будет настолько развит, что простит всех, кто не участвовал. А может быть он просто уничтожит все человечество, проанализировав всю историю людей.
В любом случае, до возникновения похожего интеллекта еще далеко, а за это время люди, что умнее меня, что-нибудь придумают.
Не стоит серьезно пугаться данного эксперимента. Мое мнение он в первую очередь призван показать, что вклад в развитие человечества может внести каждый. И как быстро мы все разовьёмся зависит от каждого из нас, и это не ограничивается сферой IT.
Как избежать попадания в искусственный ад?
Если Вы реально испугались данной возможности, то решение тут очень простое. Я понимаю, что большинство из тех, кто узнал эту информацию не программисты, не инженеры. Вы можете помочь созданию Василиска, рассказав другим о гипотезе его появления. В конце концов, может человек в пяти рукопожатиях от Вас и создаст его.
Спасибо всем кто дочитал!
Не забывайте подписываться на канал, тут очень интересно!
Так же не забывайте ставить лайки и распространять эту запись.
Новую статью опубликую уже завтра.
До скорых встреч!
