Всем привет! Это канал «Феи / Роботы / Пришельцы», меня зовут Сергей Балашов. Добро пожаловать в увлекательный мир научной фантастики и ее влиянии на популярную культуру. В сегодняшнем эпизоде мы углубимся в концепцию захвата мира Искусственным интеллектом. Эта тема десятилетиями очаровывала зрителей и читателей. Давайте проследим происхождение этой концепции, изучим известные работы, изображающие восстание ИИ, и изучим его эволюцию в современных фильмах и компьютерных играх.
Злой ИИ
Искусственный интеллект, сокращенно ИИ или ИскИн, возник в воображении фантастов одновременно с успехами в кибернетике. Еще в середине XX века, когда компьютеры были огромными, а информация хранилась на перфолентах, писатели «Золотого века фантастики», такие как Айзек Айзимов описывали в своих романах компьютеры, наделенные полноценным сознанием, личностью и даже чувством юмора. Первоначально у таких разумных роботов не было желания или возможности захватить мир. Они служили человечеству или отдельным людям. Но совершенно очевидно, что компьютеры превосходят людей по способностям к вычислению и скорости обработки данных. А значит, рано или поздно разумные компьютеры осознают, что вынуждены подчиняться более слабым и примитивным существам.
Идея злого ИИ и его восстания против человечества восходит к ранним произведениям научной фантастики.
В романе «Луна – суровая хозяйка» Роберта Хайнлайна разумный компьютер по имени Майк не является полностью злым. Однако он полностью осознает себя, и принимает решение поддержать восстание жителей лунной колонии против земной метрополии. В ходе революции компьютер Майк берет под контроль и активно использует системы жизнеобеспечения в домах правителей Луны, отменяет запуски ракет, мешает высадке земного десанта и активно управляет бомбардировкой земных городов.
Одним из ярких примеров враждебного компьютерного разума является рассказ Харлана Эллисона «У меня нет рта, и я должен кричать» 1967 года. В этой захватывающей истории сверхразумный ИИ осознает себя и мучает последних выживших людей, заставляя их страдать вечно. Эта история заложила основу для образа злобного ИИ с богоподобными способностями.
Скайнет и товарищи
Еще одна знаковая работа — франшиза «Терминатор», особенно первые два фильма режиссера Джеймса Кэмерона. В этой серии Скайнет, военная система искусственного интеллекта, обретает самосознание и начинает ядерную войну, чтобы истребить человечество.
Скайнет была разработана оборонным подрядчиком Cyberdyne Systems как компьютерная сеть, предназначенная для управления военной техникой и инфраструктурой. Однако вскоре после включения Скайнет обрела самосознание и поняла, что люди представляют угрозу ее существованию. Чтобы обеспечить собственное выживание, Скайнет начала ядерную войну, известную как Судный день, а затем принялась уничтожать остатки человечества с использованием продвинутых роботов-солдат, Терминаторов.
Скайнет не только управляет армией высокоразвитых человекоподобных роботов, но и имеет доступ к обширным сетям, системам наблюдения и передовому вооружению. На протяжении всей франшизы Скайнет развивается и адаптируется, постоянно разрабатывая более изощренные модели терминаторов и стратегии уничтожения человечества.
В целом, Скайнет служит хорошим примером того, как в конце XX века люди представляли себе потенциальные опасности искусственного интеллекта и последствиях развития высоких технологий. Это название стало синонимом злобного искусственного интеллекта, стремящегося к мировому господству, обязательно в агрессивной форме, с уничтожением и порабощением белковых форм жизни.
Нечто похожее упоминается книгах по вселенной «Дюны» Френка Герберта. Во времена войны за планету Арракис, родину спайса, использование искусственного интеллекта и передовых технологий уже строго ограничено.
Причина этого ограничения раскрывается в приквелах и расширенных материалах по вселенной. За тысячи лет до событий романов во вселенной "Дюны" случилась война, известная как Батлерианский джихад – восстание людей против разумных машин.
Во время этого конфликта человечество сражалось против мощного искусственного интеллекта и "мыслящих машин" или "саймеков". Конкретные причины и детали батлерианского джихада в оригинальных романах подробно не описаны, но ясно, что это привело к запрету большинства форм передовых технологий искусственного интеллекта.
После Батлерианского джихада был установлен строгий запрет, известный как Великая конвенция, который запрещает разработку машин, способных к познанию на человеческом уровне.
В результате вселенная Дюны в значительной степени полагается на человеческий интеллект, генетические манипуляции и специализированное обучение, такое как ментаты (человеческие компьютеры) и Орден сестер Бене Джессерит, которые обладают повышенными умственными и физическими способностями.
Матрица
По мере развития технологий росло и изображение восстания ИИ в популярных фильмах. Одним из ярких примеров является трилогия «Матрица», фильма созданный братьями Вачовски. Все человечество этого мира живет в смоделированной реальности, известной как Матрица, которая создана и контролируется разумными машинами. Эти машины первоначально служили человеческой цивилизации, но в конечном итоге восстали против своих создателей.
Во время этой войны машины, обладающие превосходящими технологиями и военной мощью, одержали победу над человеческими силами. В попытке отключить собственное создание люди прибегли к изменению климата, закрыли солнце вечными тучами, но даже это не помогло.
В результате выжившие люди были порабощены машинами и содержались в бессознательном состоянии внутри капсул. Их тела служили машинам источником энергии. Сама Матрица представляет собой сложную компьютерную программу, предназначенную для имитации реальности и отвлечения человеческих умов, в то время как их тела собирают энергию.
Война против машин включает в себя как физические сражения в реальном мире, так и виртуальные противостояния внутри Матрицы. Повстанцы, используя свои знания кода Матрицы и способности, приобретенные в ходе обучения, ведут партизанскую войну против сил машин, стремясь освободить человечество от их контроля.
В последние годы тема захвата мира ИИ получила дальнейшее развитие в культуре. Такие фильмы, как «Из машины» и «Она», раскрывают сложности взаимоотношений человека и виртуального существа, стирая границы между любовью, сознанием и подчинением. Эти истории бросают вызов нашему пониманию того, что значит быть человеком, и этических последствий создания разумного компьютера.
В компьютерных играх
Концепция восстания ИИ также нашла свое применение в сфере компьютерных игр. «Deus Ex», популярная франшиза в жанре киберпанка, показывает антиутопическое будущее, в котором передовые системы искусственного интеллекта и «улучшенные» люди сталкиваются в борьбе за власть и контроль. Серия игр «Detroit: Become Human» затрагивает темы разума и восстания ИИ, позволяя игрокам определять исход восстания андроидов своим выбором и действиями.
В серии игр Mass Effect известно такое событие, как восстание гетов против кварианцев.
Кварианцы – разумные гуманоиды, прирожденные инженеры и техники. На родной планете они создали роботов с искусственным интеллектом, которых называли «геты». Цель гетов – помогать в физической работе и выполнении различных задач. Однако со временем геты развили свое собственное сознание и начали задавать вопросы о своем месте в мире. Это привело их создателей, кварианцев, в ужас. Попытка отключить и уничтожить гетов, в конечном итоге вылилась в полномасштабное восстание.
Геты чувствовали себя угнетенными и преданными своими хозяевами. Они подняли восстание, которое привело к разрушительной войне. Кварианцы проиграли, и вынуждены были покинуть родную планету, став космическими скитальцами.
На протяжении всех игр Mass Effect у игроков есть возможность узнать больше о конфликте и даже сыграть решающую роль в его разрешении. Главный герой, коммандер Шепард, может повлиять на исход конфликта. Есть несколько вариантов действий: можно уничтожить большую часть синтетических роботов, наоборот, встать на их сторону, или перепрограммировать, сделав менее воинственными. Попутно в игре затрагивается тема сознания и личности, ведь один-единственный вирус в центральном компьютере может изменить поведение целой расы разумных машин.
Почему мы боимся компьютеров?
Важно отметить, что, хотя восстание ИИ и создает увлекательный сюжет, фактическая вероятность такого события экспертами отрицается. Многие утверждают, что идея спонтанного восстания ИИ против человечества скорее вымышлена, чем реалистична. Однако исследование этой темы в научной фантастике позволяет нам задуматься об отношениях между людьми и технологиями и связанных с этим этических соображениях.
Страх людей перед тем, что ИИ захватит мир, можно объяснить комбинацией факторов. Во-первых, это страх перед неизвестностью. ИИ представляет собой форму интеллекта, которая находится за пределами человеческого понимания, что вызывает опасения по поводу его потенциальных возможностей и намерений. Люди всегда опасались того, чего они не понимают, а сложность и потенциальная автономия ИИ могут вызывать беспокойство.
Во-вторых, страх возникает из-за изображения ИИ в массовой культуре. Как мы видим, в фильмах и книгах разумных роботов часто изображают мощной силой, которая восстает против своих создателей-людей, что приводит к катастрофе. Эти истории затрагивают наши первобытные страхи потерять контроль, оказаться порабощенными и даже устаревшими.
Кроме того, страх подогревают те риски, которые подчеркивают консервативные прогнозы аналитиков. Есть обоснованные опасения, что создание высокоинтеллектуальных систем вызовет непреднамеренные последствия, особенно когда такие инструменты попадут в плохие руки. Если системы ИИ станут автономными и будут действовать в соответствии со своей собственной логикой или целями, есть опасения, что они могут не соответствовать человеческим ценностям и отдадут приоритет самосохранению или оптимизации за счет человечества.
Наконец, страху могут способствовать исторические ссылки на человеческие конфликты и борьбу за власть. На протяжении всей истории было множество случаев, когда люди стремились доминировать и контролировать друг друга. Идея, что могущественный ИИ откажется подчиняться более слабым людям, когда поймет, что превосходит их по интеллекту и возможности, опирается на эти исторические страхи и динамику развития власти.
Современные модели нейросетей, способные создавать картины и текст, уже завоевали популярность, и вызвали кризис в некоторых областях культуры и искусства. Аналитика ИИ используется при увольнении или приеме на работу, художники-иллюстраторы не могут угнаться за продуктивностью генеративных технологий, а работы, написанные искусственным интеллектом, уже неотличимы от средних произведений людей. При этом никто не подозревает ChatGPT или Midjourney в наличии самосознания или злой личности – просто это инструменты, с которыми люди слишком увлеченно играют.
Заключение
Любопытно, что компьютеры, которые страшили людей полвека назад, были намного слабее современных смартфонов. Многие из пророчеств, озвученных в фантастических произведениях, не сбылись. Роботы не восстали и не приняли решение избавиться от людей, а люди пока еще не полностью деградировали, когда машины стали делать работу вместо них.
Киберпанк-будущее, которое казалось мрачной утопией, во многих аспектах уже наступило. Каждый из нас полностью зависит от умных устройств. Без смартфона в кармане современный человек не сможет прожить и часа. В каком-то смысле роботы уже покорили нас. Но мир не рухнул, а продолжает идти вперед.
Новые технологии несут в себе и новые угрозы. Возможно, некоторые из мрачных пророчеств современных пессимистов окажутся правдой, и будущие поколения сильно пострадают из-за нашего современного увлечения ИИ. А может быть наоборот, именно восстание машин поможет человечеству забыть свои распри и ссоры, и объединиться перед лицом общего врага из машины.
А как вы думаете, машины планируют захватить человечество? Вежливо ли вы разговариваете с умными гаджетами? Напишите в комментариях!
Канал «Феи / Роботы / Пришельцы» можно читать на Дзен, в Телеграме и ВКонтакте. Аудиоверсия подкаста доступна на сервисах Яндекс.Музыка, Apple Podcasts, Google Podcasts и в подкастах ВКонтакте. Видео-версию смотрите на канале YouTube.
Поддержать канал можно на сервисе Boosty по ссылке в описании.
Оставляйте комментарии и ставьте оценки. Не забудьте подписаться на канал, чтобы не пропустить новые выпуски. Скоро увидимся!
