Меня бесконечно забавляет, что игры 2010-х годов, в которых тем или иным образом фигурируют искусственный интеллект, роботы и прочие неорганические существа, имитирующие сознание человека или его тело, иначе воспринимаются после выхода Chat GPT и иже с ними. Когда выходили Fallout 4, Detroit: Become Human и даже Cyberpunk 2077, никто и подумать не мог, что технологии, основанные на машинном обучении, будут настолько распространены всего через несколько лет. Но вот на дворе 2025 год, революции роботов пока не произошло, но ИИ быстро интегрировался в нашу жизнь. Далеко ходить не нужно: можете проскроллить ленту Дзена. Если за это время вы научились отличать человеческий текст от Chat GPT, реальные картинки от сгенерированных Midjourney — в ленте вас ждёт немало пугающих открытий.
Все думали, что роботы заменят в первую очередь представителей физического труда, переведя человечество на интеллектуальную деятельность. А теперь мы видим, что ИИ зачастую прекрасно справляется с написанием текстов, музыки, созданием видео и даже подделывает произведения искусства. И это не говоря о том, как он помогает с повседневными задачами. Хотите себе список покупок? Ваш карманный раб готов составить его за вас. Нужен план на день? Легко! 5 секунд — и вот ваш план. Трудности с выполнением домашки для того самого душного препода? Не волнуйся ты так, дорогой студент. Можешь больше не думать — вот тебе твоя домашка. Периодически ИИ настолько искусен, что даже привыкшие к его постоянному использованию уже не могут провести границу между созданным человеком и машиной.
Эта статья — не мысли очередного паникёра. До замены нас машинами пройдёт ещё достаточно времени, даже с учётом постоянного развития искусственного интеллекта. Это скорее анализ текущей обстановки и проведение параллелей с тем, что наше общество уже переживало. Я не разработчик ИИ, не философ и даже не историк. Поэтому, если будут ошибки — смело поправляйте в комментариях.
Чтобы привязать статью к одной из тематик своего канала — игровому и околоигровому контенту — за основу возьму Fallout 4. Интересно посмотреть на тему роботов и искусственного интеллекта в то время, когда нейросети ещё не были доступны каждому первому.
Серия статей по Fallout 4 посвящена 10-летию замечательной игры. С другими историями вы можете ознакомиться здесь:
Игровая справка
В Fallout 4 синтетики (или «синты») — одна из самых противоречивых тем. Они созданы Институтом, но многие жители Содружества видят в них угрозу. Люди боятся, что синты могут заменить настоящих людей, проникнуть в их дома и уничтожить общество изнутри. Ключевой вопрос, который ставят перед игроком: равна ли машина человеку? Имеют ли право синтетики, у которых появилось сознание, на свободу? Может ли вообще у них появится сознание, или же это сбой в программе? И если это сбой, как грамотно его ликвидировать, и не будет ли это похоже на убийство? Точно такие же вопросы ставились в нашумевшем Detroit: Become Human, ну а писатели-фантасты говорили об этом и до появления первых компьютерных игр.
Но разве мы не видели подобное ещё раньше? На этом моменте фанаты цикличности в истории довольно потирают ручками.
Страх перед синтами в игровых франшизах напоминает охоту на ведьм из Средневековья и раннего Нового времени. Люди, не понимая природы угрозы, искали виноватых, опираясь на предрассудки и додумывая факты.
Они выглядят как мы. Но они — не мы
В Средние века считалось, что ведьмы могут принимать облик обычных людей, чтобы скрывать свою истинную сущность. А там уж непонятно, что происходит за дверьми их жилищ: наводят они порчу, сглаз или едят младенцев.
Точно так же в Fallout 4 синты внешне неотличимы от человека — во всяком случае, пока в них не произойдёт сбой или кто-то не покопается в их мозгу. В случае игровой механики — пока кто-то не залезет к ним в карман после смерти подозреваемого в неорганике. При этом синты — не просто страшная сказка. В неопределённый хронологический период один из представителей неорганики сумел развалить зарождающееся временное правительство на территории Содружества, которое должно было остановить беспредел, происходящий на его территории, в виде рейдов бандитов, супермутантов и прочей нечисти. Ну а про инцидент «Треснувшая маска» помнят все жители Даймонд-сити и гули Добрососедства, а Пайпер про это написала целую статью.
Жителей Fallout 4, особенно в крупных городах, охватывает паранойя. Ряд особенно изобретательных людей начинают строить планы по выявлению синтов до их умерщвления. Впрочем, со святой инквизицией пересечений мало, всё подано через научную фантастику. Правило «если утонешь — невиновна, если выживешь — ведьма» не работает. Но вот если в вопросе про бейсбол допустить ошибку... считай, что за тобой уже приглядывают в пыточной камере, замеряя, правильно ли у тебя расширяются и сужаются зрачки от боли. Срабатывает и ещё одно правило: люди боятся не самих синтов, а неизвестности. Институт никогда не объяснял причину похищения людей и замены их роботами. Неизвестность = страх. А когда людям страшно, они становятся очень опасными.
Теперь об инквизиции. Обычно Братство Стали описывают как нацистов, но со святой инквизицией у них пересечений тоже много. В Средние века светские власти организовывали массовые казни «ведьм». В Fallout 4 ту же роль играет Братство Стали, объявившее синтов «нечистью», которую нужно уничтожить.
В массовой культуре для инквизиции хватит и одного доноса, чтобы человека пытали и казнили. Думаю, разработчики гораздо больше взяли из истории, чем может показаться на первый взгляд. В игре у нас есть, например, музей ведьм Салема. Этот городок в пригороде Бостона известен своими «паранормальными» историями, что делает его идеальным местом посещения на Хэллоуин. А всё из-за того, что в Салеме 1692-го года девушки обвинили сотни людей в колдовстве и многих казнили без доказательств. А если приблизить эту историю к нашим широтам... никто не любит ябед. И ещё живо то поколение, которое прекрасно помнит, почему. Когда общество охвачено паранойей, никто не защищён от ложных обвинений.
Интересно, что не во все времена и не везде на ведьм была объявлена охота. Если есть спрос — есть и услуга, и колдуньи были готовы предоставить отличный сервис по проклятьям, сглазам, привороту и прочему. Вот и в Fallout 4 у нас вполне мирно сосуществует с людьми Ник Валентайн, являясь детективом города Даймонд-Сити.
Синты — не просто страшная сказка, но и не только страшная сказка. В дополнении Far Harbor (сейчас будут спойлеры!) на одноимённом острове существует целая колония синтов — Акадия, скрытая от глаз заинтересованных в них политиков Содружества — Братства Стали, Поземки и Института. И общество у них довольно здоровое, более того — они напрямую участвуют в обеспечении мира на его территории, пытаясь не допустить войны между другими фракциями — Детьми Атома и жителями Фар-Харбора.
В дополнении вновь используется идея замены людей синтами. Для обеспечения мира лидер Акадии ДиМА убил капитана Эйвери и поставил на её место робота, чтобы чуть-чуть умерить радикальные настроения в городе. При этом само её убийство он забыл, ведь память прототипов была ограничена (а что, очень удобно. Никаких сожалений, никаких последствий). То же самое он предлагает провести с Верховным исповедником — неуравновешенным фанатиком с манией величия, угрожающим всем, кто не исповедует его веру в Атом. Если на этот план согласиться, он превращает и второго лидера из двух враждующих поселений в более мирную контролируемую им неорганическую копию, что позволяет сохранить жизни и не допустить полномасштабной войны на острове.
Сработает ли этот план на долгий срок? Раскроется ли эта подделка? Даст ли сбой? Может, да, а может, и нет, но в краткосрочной перспективе идея точно себя оправдала.
К чему было введение про восстание машин?
Fallout никогда не был простой игрушкой про стрельбу и создание поселений. Более того, он никогда не был только RPG. В его основе лежали философские мотивы, размышления о политике, власти и неограниченной, бесконечной жадности. Fallout — это сатира на экономический строй, на чудовищное социальное неравенство, на культ потребления, на человеческую глупость, национализм и ура-патриотизм, а в целом — на разложение общества. Приведу выдержку из твиттера одного из разработчиков, программиста и дизайнера первой части франшизы Джесс Хейнинга. Будет очень много букв, но я не хотела сокращать эти прекрасные слова:
С самого начала Fallout изображал мир, в котором люди поддались жадности и страху. Вместо того чтобы сотрудничать для решения своих проблем, которые были разрешимы, они полагались на насилие, отчуждение и, в конечном счёте, на войну (которая никогда не меняется). Борьба за то, чтобы держаться за прошлое — это рецидивная тематика Fallout... Конечно же, конца света не наступило. Просто жизнь стала другой. Это важный вывод из Fallout. Мир меняется. Общество движется дальше. Люди становятся отличительней. Культура трансформируется, «нормальность» становится более расплывчатой. В Fallout люди не могли двигаться вперёд. Они пытались цепляться за устаревшее представление о культуре, которой на самом деле не существовало, а затем проецировать эту идею дальше, чтобы получить власть. Они пытались в свою фальшивую форму втиснуть мир. Конечно же, это было обречено на провал. Мы видим это в отражении сегодняшнего культурного напряжения между людьми, которые думают, что могут восстановить выдуманное прошлое, когда всё казалось прекрасным, и людьми, которые пережили плохие моменты того же прошлого (и последствий этого в настоящем) и не могут позволить этому вновь повториться... Вы не можете повернуть время вспять. Люди, оглядывающиеся в прошлое, имеют в голове образ того, каким «должен был быть» мир, и они будут продвигать этот образ с помощью объявлений, рекламы, журналов, продукции. Они выступают об этом с принуждением, навязывая всем свой «правильный» путь и убивая всех, кто не соответствует этому. Это те же самые люди, которые не могут понять, почему отличные от них страдают и так несчастны. Очень часто они даже неспособны представить себе жизнь таких несчастных людей. Их фантастический мир — это мир, где не существует тех, кто не похож на них, кто доставляет им дискомфорт. В Fallout эти предрассудки часто отражаются в отношении людей к гулям, мутантам и синтам. И это является обычным научно-фантастическим/фэнтезийным приёмом — используйте экстравагантное лицо в качестве дублёра, чтобы исследовать социальные проблемы, с которыми сталкиваются реальные люди. (24.12.2021 — 30.12.2021)
Чем раньше мы начнём анализировать ситуацию с новыми прогрессивными технологиями, тем больше шансов, что мы не сделаем таких ошибок, какие сделали наши предшественники и копии в художественной литературе, фильмах или играх. Однако человечество раз за разом наступает на одни и те же грабли. Вместо того чтобы адаптироваться к изменениям, мы цепляемся за иллюзии прошлого, пытаясь силой загнать реальность в устаревшие рамки. Вот незадача: если сделать вид, что проблемы нет, она не исчезнет сама собой, как по волшебству.
Пожалуй, главный урок Fallout в том, что «нормальность» — это иллюзия. Мир не стоит на месте. Те, кто пытается вернуть «старые добрые времена», на самом деле борются с ветряными мельницами, потому что этих времён никогда не было. Страх перед будущим — это тупик. Единственный выход — научиться жить в новом мире, каким бы странным и несовершенным он ни казался.