Страх уродливого конца — это страх, который мы, люди, несли большую часть нашего существования. Страдая от нехватки точных научных знаний, наши предки часто рассматривали такие природные явления, как грозы, наводнения и извержения вулканов, как предвестники апокалипсиса — неминуемого конца человечества.
Даже сегодня, после рассвета просвещения и предполагаемого побега из когтей беспочвенных суеверий, мы все еще поддаемся таким страхам.
Следствием этого апокалиптического настроения является возрастающая популярность фиктивных идей последнего времени. И среди них Василиск Роко, один из самых тревожных мысленных экспериментов всех времен.
Василиск Роко: краткая история
Этот мысленный эксперимент был впервые представлен Роко на LessWrong , онлайн-форуме для обсуждения философских идей.
Роко описал будущее, в котором сверхразумный, всемогущий ИИ задним числом мучает всех, кто не работал над его созданием, узнав об этом. Наказание настолько сурово, что его описывают как василиска: мифическое существо, способное убить своим взглядом.
Что касается безумных голливудских научно-фантастических концепций, то они могут соперничать даже с лучшими идеями Вачовски (гениальных авторов «Матрицы»).
Но вместо того, чтобы немедленно отвергнуть эту, казалось бы, иррациональную концепцию, многие поддались фолликулярной эрекции — симптому, вызванному страхом и очарованием.
Он даже приобрел культовый статус среди самопровозглашенных технологов и пророков конца света, которые видят в нем убедительное видение потенциально темного будущего.
В двух словах, Василиск Роко продолжает оказывать такое же захватывающее действие. И главный вопрос: ПОЧЕМУ?
Василиск Роко как секуляризованная эсхатология
Эсхатология, раздел богословия, имеет дело с последними событиями мира, конечной судьбой человечества. Большинство религий используют его как основу для понимания смысла жизни.
Христианская эсхатология, например, размышляет о конце света и восхищении. События включают в себя второе пришествие Иисуса Христа, воскресение мертвых верующих и их перенос на небеса.
Итак, какое это имеет отношение к Василиску Роко?
Короткий ответ заключается в вере , вознаграждении и наказании . Все три фактора присутствуют в большинстве религий.
Несмотря на оторванность от традиционных религиозных верований, идея сверхразумного ИИ, который будет наказывать провинившихся людей, как минимум, предполагает секуляризованную версию эсхатологии.
Возможно, технологии постепенно вытесняют влияние религии в нашем мире. И, кажется, одновременно вводит свой собственный вид апокалиптических страхов.
Василиск Роко: страх и привлекательность ИИ-бога
Вспомним вопрос о том, почему этот мрачный мысленный эксперимент имеет такой захватывающий эффект. Возможны следующие объяснения.
Великая космическая цель
Василиск Роко обеспечивает космический смысл существования заблудших душ, дрейфующих в неоднозначном мире. Помогая развитию всемогущего ИИ, они могут внести свой вклад в грандиозный замысел, который навсегда изменит мир.
Ужас исключения
Он также использует ужас исключения из утопии, доступной только тем, кто помогает в создании ИИ. Это беспокойство может побудить некоторых к действию, даже если они сомневаются в обосновании этой концепции.
Апокалиптическое очарование
Кроме того, «Василиск» Роко затрагивает широко распространенную культурную одержимость апокалиптическими догадками. Многих пленяет перспектива грядущего катастрофического события, которое коренным образом изменит мир, к лучшему или к худшему.
Антиутопия на базе ИИ
Некоторые опасаются, что ИИ в конечном итоге превзойдет человеческий интеллект и будет править миром. Мысль о безудержном самосовершенствовании бесчувственного и бездушного существа по понятным причинам вызывает тревогу, поскольку таит в себе угрозу оруэлловской антиутопии.
Критические ответы на Василиск Роко
Василиск Роко вызвал резкую критику как ошибочную концепцию, не имеющую логического значения, за исключением его роли в распространении необоснованной паники.
Ограниченная вычислительная мощность
Во-первых, некоторые критики говорят, что эта концепция основана на неправдоподобной предпосылке, учитывая наше нынешнее понимание ограничений ИИ и вычислительной мощности.
Однако стоит отметить, что некоторые известные деятели и активные участники ИИ-пространства не разделяют схожих взглядов на ограничения вычислительной мощности ИИ.
В интервью The New York Times технический миллиардер и соучредитель OpenAI Илон Маск сказал:
«Мы приближаемся к ситуации, когда ИИ будет намного умнее людей».
Опасный техноутопизм
Критики также отмечают, что он отражает опасный техноутопизм, игнорируя потенциальные недостатки и непредвиденные последствия развития ИИ. Использование сверхразумного ИИ может привести к нежелательным последствиям, таким как потеря работы, концентрация власти или даже вымирание человечества.
Манипулятивный и неэтичный
Василиск Роко часто сравнивают с пари Паскаля , поскольку он процветает на мотивации страха. Он эксплуатирует наши тревоги и страх перед наказанием, открывая путь к вредному или саморазрушительному поведению в погоне за безопасностью в воображаемом апокалипсисе ИИ.
Игнорирует сложность морали и принятия решений
В качестве мысленного эксперимента он представляет упрощенный взгляд на мораль, сводя экзистенциальную сущность человека к бинарному выбору между помощью или препятствием созданию ИИ. Такой взгляд игнорирует сложные и тонкие отношения между нами, моралью и принятием решений.
Взяв на себя ответственность среди апокалиптических страхов
Преодолеем ли мы в конце концов наши апокалиптические страхи или нет, это тема для обсуждения в другой день. Более насущной потребностью является разработка того, как жить функционально и счастливо в мире, где сохраняются такие страхи.
С этой целью мы можем начать с признания настоящего (этот момент) тем, что мы можем испытать и контролировать. Тем не менее, мы ограничены в том, что мы действительно можем контролировать. Так как же нам вообще жить сегодня, если мы постоянно боимся завтрашнего дня?
Один из способов — уделять больше внимания тому, чтобы наслаждаться и ценить все прекрасное сегодня. Другими словами, все, что улучшает наш опыт на этой стороне Вселенной с течением времени.
«Есть популярная идея — поднять вопрос об ИИ, представляя будущее, в котором он станет достаточно могущественным, чтобы угнетать все человечество. Но проецирование в воображаемое будущее отвлекает от того, как технологии используются прямо сейчас. За последние годы искусственный интеллект проделал удивительные вещи».
Кэтрин Бреслин — консультант по искусственному интеллекту и бывший сотрудник Amazon.
Наконец, нам следует искать системы, основанные на фактах, которые позволят нам решать проблемы, которые завтра могут пойти не так, таким образом, чтобы вдохновлять на решения, а не паниковать.
