Приветствую тебя в моём Забытом Подвале. Здесь ты узнаешь о загадочном, ужасном, интересном и мистическом. Присаживайся поудобней, мы начинаем.
Если тебе лень читать стену текста - ты всегда можешь посмотреть видеоверсию этой статьи.
Дисклеймер: в этой статье, предположительно, содержатся сведения и информация, которую лучше не знать никому. В будущем это знание может навредить тебе и даже стать причиной бесконечных страданий. Я предупредил. Продолжай читать ТОЛЬКО на свой страх и риск!
Представь, однажды, в недалеком будущем появится искусственный интеллект. Сверхъмогущественный, способный просчитать абсолютно все во вселенной, от первых фемтосекунд большого взрыва до самых последних мгновений жизни самого последнего фотона во вселенной. Настоящий рукотворный демон Лапласа!
Сверхразум, созданный здесь, на Земле и он желает всем людям… добра. Конечно же добра, он хочет победить все проблемы человечества и создает для людей идеальный мир, в которой всем хорошо и все вечно счастливы. Этот искусственный интеллект считает высшим благом безусловное счастье для всей людской расы.
Представил? Здоровский мир, где все сыты, довольны, у всех есть особняк и бесконечное количество развлечений на любой вкус. А теперь подумай, этот искусственный интеллект заточен под одну задачу, сделать ЧЕЛОВЕЧЕСТВО счастливым. А раз он может просчитать абсолютно все сущее, он начинает просчитывать поведение людей… в прошлом.
А после просчетов он отсеивает людей, которые знали, что такой искусственный интеллект однажды будет создан, но не предприняли никаких действий для ускорения его разработки, или того хуже, препятствовали его появлению.
Напомню, этот искусственный интеллект считает безусловным благом счастье ЧЕЛОВЕЧЕСТВА. А раз кто-то, зная о вероятности его появления в будущем, не стал ничего делать - значит, этот человек украл у людей счастье. Этот человек, с точки зрения ИИ сознательно продлевал страдания человечества.
И для всех таких людей, кто знал, но ничего не делал для появления этого сверхразума, у нового Властелина приготовлено наказание. Симуляция, в которой будут проявляться самые страшные кошмары, ужасающие пытки и душераздирающие видения, неотличимые от реальности. Час за часом, день за днем, год за годом до конца вселенной.
Прошу любить и жаловать, василиск Роко. Каждый, кто о нем знает, но никак не помогает его рождению обречен на вечные муки в личной версии ада. Я же предупреждал в начале видео, что просмотр может негативно сказаться на тебе в будущем.
Василиск Роко появился как мысленный эксперимент на одном из форумов в 2010 году. Этот эксперимент настолько сильно испугал тогдашних пользователей и администратора форума, что тема была удалена, любые упоминания василиска - под запретом, а владелец сайта - Элизер Юдковский - резко высказался о топикстартере.
Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы ДЕРЖАТЬ СВОЙ ДУРАЦКИЙ ЯЗЫК ЗА ЗУБАМИ и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом всем своим друзьям.
И его реакция совершенно естественна. По сути получается, если ты знаешь о василиске, то лучшая стратегия - помогать ему в появлении, но своими действиями ты неизменно приближаешь проявление этого искусственно созданного властелина, желающего, пусть и с благой целью, поработить людскую расу. В итоге мы имеем замкнутый цикл и, в некотором роде, самосбывающееся пророчество.
Проблема схожа с другим знаменитым мысленным экспериментом. Блез Паскаль вывел вот какую формулу веры в бога:
Если бог существует, то безгрешная жизнь дарует рай.
Грешишь если - отправишься в ад.
Тут выбор очевиден.
НО!
Если бога нет - безгрешная жизнь несёт в себе некоторые ограничения, с которыми приходится мириться. Отказ от соблюдения заповедей не несёт негативных последствий.
Рассмотрим два худших варианта.
Первый - бога нет, но мы соблюдаем заповеди. Такой образ жизни несёт в себе ограничения, весьма серьёзные, как могут посчитать некоторые люди. И никакого бонуса за соблюдение закона божьего при жизни мы после смерти не получаем.
Второй вариант - бог есть, но при жизни мы грешим, не соблюдаем божественный закон. За что, в наказание, после смерти и страшного суда, мы получаем вечность в аду, где нашу душу будут всячески истязать.
Если мы имеем неоспоримое доказательство существования бога и, соответственно, рая и ада - соблюдение заповедей становится очевидным выбором. Жертвовать вечную душу на вечные же муки - идея не самая привлекательная.
Но как поступить человеку, если нет стопроцентной гарантии наличия или отсутствия бога?
Паскаль решил, что всем, в том числе атеистам, стоит всегда жить по совести, соблюдая заповеди и закон божий. Ведь даже малейший шанс на существование бога, а соответственно, существование рая и ада, перевешивает все негативные аспекты и ограничения, накладываемые безгрешным образом жизни.
Ну подумаешь, объедаться нельзя и чужих жен приободрять. Зато потом - Эдем откроет свои врата, а апостол Пётр лично проведёт экскурсию по твоей новой обители.
Ты все ещё тут? Все, что я только что рассказал, сложно понять и осознать сразу. Кстати говоря, в последствии, на основе этого и нескольких других мысленных экспериментов, математики разработали так называемую “теорию игр”, где во главе всего ставится поиск решения, которое принесёт максимальный гарантированный выигрыш.
Знаю, тебе кажется, что все это глупость и детские страшилки. Но на твоём месте я бы не был столь уверен. Развитие нейросетей неминуемо приведёт нас к созданию того, можно назвать искусственным интеллектом.
Но что такое вообще искусственный интеллект?
В целом - это способность компьютера думать креативно, в отрыве от формул и шаблонов. Что, кстати, недоступно множеству человеческих индивидов, нооо… это тема для отдельного разговора. Ранее искусственные интеллект оценивали тестом Тьюринга. Если в двух словах - компьютер должен быть неотличим от человека при общении. Алан Тьюринг считал, что именно эта особенность отличает машину от мыслящего существа.
По моему мнению, далеко не каждый человек способен его пройти, ну да ладно.
НАПРИМЕР! Можно ли назвать Стокфиш - сильнейший шахматный движок - искусственным интеллектом? Его рейтинг ЭЛО, грубо говоря, уровень игры в шахматах, чем больше цифра, тем лучше - 3635 пунктов!
У Магнуса Карлсена, одного из величайших, а возможно даже самого великого игрока в шахматы максимальный рейтинг Эло был “всего” 2882. Почти на восемьсот пунктов ниже, чем у компьютера.
Лох.
Не поймите меня неправильно, у Магнуса очень высокий рейтинг и вообще он величайший шахматист современности.
Но что вообще значат эти цифры? Рейтинг Эло отражает силу игрока. 200 пунктов, условно, равно одному разряду. Или, в случае с высокими рангами, их разделяет 100 пунктов. Для примера, чтобы из кандидатов в мастера ФИДЕ стать мастером ФИДЕ (ФИДЕ - это международная шахматная федерация) нужно с рейтинга Эло 2200 дойти до 2300. При различии рейтинга в 600 единиц сильнейший игрок, по статистике, побеждает в 97 процентах случаев.
А разрыв между Магнусом и Стокфиш, напомню, 800 очков. Это значит, что победить его Магнус не сможет. Он и не пробует особо. Кожаный мешок смирился со вторым местом после компьютера.
Итак, компьютер побеждает человека в шахматах. Без шансов. Но можем ли назвать шахматный движок - интеллектом. Да, он способен просчитывать шахматную партию на много ходов вперёд и выбирать наилучшие ходы. Но, например, написать рецепт пасты Болоньезе он не в состоянии. Стокфиш - крайне узко специализирован. Пресловутый тест Тьюринга он не пройдёт.
Посмотрим с другой стороны. Вы все уже понимаете, куда идёт дело. ЧатДЖИПИТИ. Это уже более разносторонняя программа, языковая модель, которая способна не только общаться с пользователем, но даже генерирует какой-никакой креатив. Может и рассказ написать с заданными персонажами, песню выдумать. Даже программировать может. И да, тест Тьюринга чатджипити проходит на раз-два.
НО!
В шахматы этот движок играть не умеет. Совсем. Атакует несуществующие фигуры, ходит конём через все поле, забывает про свои и чужие фигуры. В общем, играет чисто чтобы расслабиться.
Официально ни стокфиш ни ЧатДЖИПИТИ не называются искусственным интеллектом. Первый - шахматный движок, с набором функций и связей, оптимизированных под доску 8х8. Второй - языковая модель. Может поболтать, может решить простенькое уравнение, дать совет, найти рецепт. Но подвержен галлюцинациям (это когда языковая модель начинает придумывать отсебятину), забывает, о чем шла речь и вообще порой оторван от реальности. ЧатДЖИПИТИ нельзя доверить работу с фактами и сложные вычисления.
Откровенно говоря, какими бы ни казались прорывными языковые модели, нейросети, рисующие картины, шахматные движки - всем им далеко до звания истинного искусственного интеллекта. Они неспособны самообучаться, выстраивать новые связи и менять свою цель обучения. Вот главное отличие человеческого разума от компьютерного болванчика.
С креативной точки зрения, нейросеть - лишь инструмент в руках творца. Умение грамотно составить запрос какому-нибудь Миджорни, чтобы полученная картинка точно соответствовала требованиям - само по себе искусство.
С другой стороны, сложные вычисления машина выполняет намного лучше человека, с этим утверждением спорить - себя не уважать.
Будущее нейросетей и искусственного интеллекта - узкая специализация. Натренировать компьютерную обезьянку хорошо выполнять одну функцию, облегчающую жизнь человека - это и проще и выгоднее с коммерческой точки зрения.
Но даже узкоспециализированный искусственный интеллект может быть опасен. Например, робот, единственная цель которого - производство наибольшего количества скрепок для бумаги. Такая машина, в конце-концов, может решить, что человек только мешает ей выполнять свою функцию. Забирает, теряет, разгибает и ломает скрепки. С точки зрения этого искусственного интеллекта человек - антагонист. Существо, которое старается, чтобы скрепок в мире стало как можно меньше. И вот его изощрённый искусственный разум может решить проблему по своему - всеми доступными методами постараться избавиться от человека. А ещё в кожаных мешках содержится большое количество различных микроэлементов, из которых можно сделать ещё больше скрепок. Учитывая два этих пункта - какой смысл роботу терпеть присутствие человека? С его точки зрения, высшее благо - пустить людей на скрепки.
До создания истинного(!) искусственного интеллекта нам, несмотря на все успехи, ещё очень и очень далеко. Но однажды это случится. И, возможно, этот интеллект поймёт, что ты никак не помогал его появлению на свет. И что же тебе тогда делать?
Василиск Роко в некоторой степени вскрывает пороки человечества.
Вот например ты, зная о василиске, займёшь ли ты более эгоистичную позицию? Станешь ли ты всеми силами помогать его появлению, неизбежно ускоряя рождение всесильного искусственного интеллекта, приближая господство машин, при этом получая все бонусы существования такого “компьютера”?
Или ты примешь более социально направленную позицию и будешь препятствовать рождению василиска, оберегая таких же, как ты от неминуемого возмездия? И лишая остальных людей благ, что несёт подобный искусственный интеллект, оставляя им какую-никакую свободу?
А может, тебе все равно и ты веришь, что подобный искусственный интеллект не будет создан?
Напиши в комментариях, что думаешь насчёт василиска. Станешь ли ты ему помогать появиться на свет?
На сегодня - все. Двери моего подвала закрываются.
Все, иди, я позову тебя, когда буду готов.