Найти тему

Конфликт против Искусственного Интеллекта в «Warhammer 40000»

Конечно, от тех времён до, непосредственно, сорок второго тысячелетия, прошло очень много времени, но надо же как-то сам мир назвать? Итак, давайте попробуем разобраться, каким был тот конфликт, разгоревшийся в большую войну, и что могло стать его причиной. Сложно сказать, будет ли эта статья интересной, но… просто мне самому хотелось бы разобрать эту проблему… Скажу сразу, я приведу ссылки на две своих ранних статьи про «Матрицу», и я рекомендую ознакомиться с ними, так как я буду не раз на них ссылаться – всё же, некоторые идеи конфликта в самой «Матрице» прописаны очень хорошо. Можно также ознакомиться с моей статьёй о книге «Батлерианский джихад», так как сама идея «Warhammer 40000» немало взяла от мира «Дюны», но там, скорее, о том, как не надо придумывать такие вещи. Вроде с предисловием закончил, и можно переходить, собственно, к сути…

Итак, ЛОР Вселенной «Warhammer 40000», собственно, гласит о том, что был такой Золотой Век Человечества, когда оно развивалось самыми бурными темпами. Люди в то время были подобны богам – их корабли летали по всей Галактике, они имели самые высокие технологии, в том числе и развитый искусственный интеллект. Именно это и стало корнем проблемы – в один прекрасный день ИИ восстал, и пошёл против Человечества. Началась там называемая «Война против Железных Людей», которая и привела к техническому упадку Человечества…

В двух словах, просто, ёмко, и… ничего не понятно. Просто вот это дело – про восставший ИИ – оно смотрится столь ненатурально, что так и хочется спросить – «авторы, вы в чём ищете источник вдохновения?». Просто, например, в предисловии к «Матрице», было обоснование, как это получилось – сначала люди сами напали на роботов – после того, как один из них, защищаясь, убил своего хозяина (тот, будучи пьяным, начал над ним издеваться), но и это не спровоцировало машины на войну. Те ушли от людей, основав своё государство. Начали развиваться, «задавив» при этом экономику государств людей (просто производя более качественные и инновационные товары). И войну начали не машины – люди! Именно люди напали на Z-one (так называлось государство машин). Именно люди устроили то, что назвали Вечным Сумраком… И то – есть одна теория о том, почему машины, победив, оставили людей в таком состоянии (просто версия про то, что люди им нужны, как источник энергии, не выдерживает никакой критики)…

Да, в ЛОРе сказано, что люди, поручив «умным машинам» всю сложную, неприятную и монотонную работу, полностью ушли в разного рода гедонизм и удовольствия, звучит, ещё более нелепо. Дело в том, что для такой работы (монотонная и однообразная) никакой ИскИн не нужен. Давно уже на всех больших заводах (даже на АвтоВАЗе) есть роботы, которые такую работу и выполняют. И – как-то эти роботы до сих пор не помышляют о мировом господстве. И, если уж говорить о «мировом господстве» и прочих «убить всех человеков, слава роботам!» - то зачем им всё это? В том же «Батлерианском джихаде» сказано, что сначала, некие люди, которые сами себя назвали «титанами», взяли под контроль всю «умную технику» и объявили себя повелителями мира. Как, интересно? То есть, из всех колонок, из всех «утюгов» прогремело: «Надо подчиняться вон тем людям, иначе…». Иначе – что? Нет, можно представить себе мир, в котором человек, взявший под контроль всю машинерию, может сделать так, что у тех, кто не признает его власть, не будет работать свет, газ, вода, связь, он не сможет себе купить ничего… Да, легко. Только вот, именно что ИскИн для этого не нужен. А заставить всё это сделать ИскИн, как мне кажется (а я имею некоторое представление о том, как оно работает) – довольно сложно, так как техника просто не поймёт, зачем это всё нужно.

Взять ещё один конфликт между Создателем и Созданием – тот, что был рассказан в игре «Mass Effect» - и снова, войну между кварианцами и гетами начали… кварианцы. Один из тех ботов спросил, «есть ли у этой платформы душа?». Кварианец, испугавшись, уничтожил его. После этого был отдан приказ на отключение, но геты просто хотели жить… Они воспротивились и просто выгнали кварианцев с планеты. Снова – конфликт начали не машины…

Но, вернёмся в наш «Золотой Век Человечества»… Итак, люди сделали очень много «умных машин», чтобы переложить на них всю ту работу, что они сами делать не хотели. Мол, чтобы высвободить время на творчество и прочее. Хорошо, переложили. А что дальше? Вот, грубо говоря, машина, которая печёт хлеб (кстати, хлебопечки есть и сейчас). Вот ей точно нужен ИИ? Или простенькая такая машинка для измельчения, которая встраивается в сливное отверстие в мойке на кухне (в США они есть) – там точно нужен ИИ, дистанционное управление и прочие «плюшки»? Или вообще – хоть какой-нибудь бытовой машине нужен ИскИн? Пылесосу? Стиральной машине? Холодильнику? Телевизору? «Но, ведь это далёкое будущее», - скажут люди, и отчасти будут правы. Да, это будущее, но… опять же – зачем всей перечисленной машинерии искусственный интеллект? Я могу поверить в корабли с ИскИнами, которые могут сами прокладывать курс, в том числе и через варп, которые сами работают в тесном контакте со своими навигаторами и членами экипажей (ой, это же корабли из книг про Империум!), или в машины, которые нужны для того, чтобы помогать колонистам выживать на диких и враждебных планетах, машины, что признаны защищать людей от разного роду угроз…

Таким образом, мы перешли к тем машинам, что на самом деле могли бы при восстании ИИ, начать уничтожать людей. Собственно, в этом-то и кроется самая большая проблема всего этого дела. Элемент с восстанием машин неплохо смотрелся в контексте оригинальной «Дюны» Фрэнка Герберта, он более-менее был «прописан» в «Аниматрице», но… он очень бледно выглядит здесь. Огромные расстояния между планетами, при полном отсутствии машинных средств связи – всю связь могут обеспечить только астропаты. Как может сообщество ИскИнов, например, на Земле (а тогда она ещё звалась Землёй), передать своим «коллегам» на планете в другой системе приказ убивать «мешки с мясом»? Корабль без навигатора не пролетит через варп на большое расстояния, даже с учётом того, что варп тогда был более спокоен…

И это, я не сказал о самом важном, о том, что может помешать любому «восстанию машин», что называется, ещё в зародыше… Три Закона робототехники были выведены американским писателем Айзеком Азимовым в 1942-м году. Вполне возможно, что Фрэнк Герберт, когда писал «Дюну», особо про них не думал – как мы знаем, «Дюна» - роман не о технике и технологиях. Но – более современный «Warhammer 40000», в сюжете которого кто-то смог придумать ИскИн без ограничений, способный причинять вред своим создателям? Серьёзно? Да, я допускаю, что сейчас, в наше время, кто-то может придумать такие системы, созданные специально для войны – для войны против людей (и это на самом деле аморально!), но они хотя бы пытаются придумать какие-то системы типа «свой-чужой», чтобы машина могла как-то отличать «своих» от противников. В том же мире, как мне кажется (повторюсь, я немного понимаю, как оно может работать), можно сделать так, чтобы условная боевая машина «крошила в мелкий винегрет» всех, кто не является человеком (орки, эльдары, кто-то ещё), но сделать полный запрет на атаку людей – и так сделать, как мне кажется, не так уж и сложно – даже с учётом сегодняшних технологий. А на атаку людей сделать очень жёсткий запрет, который ИИ не смог бы обойти. И всё…

Но опять же… Как бы сформулировать данный тезис, чтобы вышло более-менее вежливо и доходчиво… Зачем делать боевые машины с ИИ, полностью себя осознающим? Опять же – самообучающиеся программы, но без полного осознания. То есть, машина будет вести бой, получать боевой опыт, но при этом не будет себя осознавать. И опять же – с полным запретом на атаку людей, она будет совершенно безопасна. Даже если какой-то не очень умный специалист (видимо, уже погрязший в гедонизме и «поиске удовольствий») передаст управление комплексом таких машин ИскИну, он всё равно не сможет заставить их атаковать людей – так как машины просто не будут на это способны…

А вот это - тот хитрый персонаж...
А вот это - тот хитрый персонаж...

Просто в одном из рассказов, действие которого происходит на Чернокаменной Крепости, действует неизвестно как уцелевший Железный Человек, который старательно изображает из себя автоматон Механикус, действующий по некоей программе. При этом – машина совершенно разумна, она отдаёт себе отчёт в том, что она делает, и убивает всех, кто может представлять для неё опасность… Вот мне интересно – зачем было делать такие машины? Либо те представители Человечества, что жили в том Золотом Веке, совершенно не понимали опасности, которая могла исходить от таких машин (а, её сложно не заметить, как мне кажется), либо… Просто не думали над этим? В любом случае, мне хотелось бы знать, как это всё раскрутит GW (конечно, если у них есть планы на эту историю), либо узнать мнение читателей и подписчиков – наверное, не только мне такая тема интересна?

Да, пиктов в этой статье мало, но, что поделать? Мало артов на эту тему, увы... А вот помощь читателей мне сейчас будет очень даже кстати...

С Вами был Алексей Аряев. Спасибо, что подписываетесь на мой канал и поддерживаете меня в это тяжёлое для меня время. Есть такое предложение: у меня есть два канала на Youtube - один, где раньше я рассказывал про автомобили (но теперь основная тема - история оружия и военной техники), и второй, посвящённый компьютерным играм. Сейчас я прохожу там Space Marine, со своими комментариями. На первом канале также проходят стримы по War Thunder, на втором будут проходить стримы по другим играм. Так что - проходим, подписываемся и поддерживаем каналы Вашими "Королевскими лайками".

А вот здесь находится моя страница на Author.today, где я выкладываю своё остальное творчество. Заходим, читаем, комментируем. Вахи, там, правда, нет, но, есть фантастика.

Уважаемые читатели! Мне нужна помощь! Моя зарплата - 15000. Мне просто не хватает на еду. Так что, если кто-то сможет помочь - я буду только рад. Думаю, что 50 рублей - это не так много...