О том, как образ андроида используется разными фантастами, я уже писала, вот тут:
О том, что роботы в разных историях – и не роботы вовсе, тоже. Сама метафора андроидов мне нравится, она дарит прорву идей, но, право, одинаковое использование этого образа, без оригинальности (за редким исключением), меня даже удивляет. Очень много современных писателей, которые продолжают традицию выявлять человеческие пороки на фоне идеальных машин, в которых изначально не может быть изъяна. А там, где хочется нового, всегда создаёшь что-то своё.
При этом не могу сказать, что мной при написании «Императива» двигало желание порвать шаблон, вовсе нет. Разница обозначилась сама, стоило мне проанализировать собственно образы роботов в произведениях классиков и современников.
В чём же загвоздка?
Как я говорила в предыдущей статье, писатели и режиссёры пишут скорее идеальную, а не реальную модель андроида. Роботы в их историях имеют волю, самосознание, тягу к свободе, чувства – это живые существа в механической оболочке, а не машины. Даже страхолюдины с щупальцами в знаменитой «Матрице» - ни разу не машины, а техно-монстры (можете выдохнуть, конец света от рук роботов никому не грозит).
Суть в том, что современность создала искусственный интеллект, и многие поверили в идею, что он может превзойти человеческий. Возможно, в чём-то нейросети и выигрывают у людей (работа с огромными объёмами информации – хотя тут их часто подводит мощность и память системы; скорость выполнения задач – хотя, не будь у человека здоровой лени, и этого преимущества у ИИ не было). Но для того, чтобы превзойти человека – любого, - искусственный интеллект должен как минимум обрести самосознание, я уж молчу о воле.
И вот интересное препятствие: человек не до конца изучил природу собственного мышления, чтобы создать что-то, что может превзойти его самого. Да что там – по словам учёных, мы до сих пор знаем о мозге и мышлении целый огромнущий ноль. Там, где не изучены базовые вопросы, об уровнях повыше речи не идёт. Так что, каким бы впечатляющим ни был интеллект робота, в современной реальности стать лучше и выше человека ему не светит.
Второй и очень важный момент: у науки до сих пор нет ответа на вопрос, что такое жизнь. Признаки, которые отличают живое от неживого, вам назовёт любой биолог, но на вопрос о том, отчего вот дерево живое, а стул – нет, промолчит доктор наук. И в мире, где человек не знает, что такое жизнь, мысль о создании им жизни – это фантастика (ну, вообще-то само присутствие робота в сюжете относит его к категории фантастических).
В начале «Императива» был конец «R.U.R.»
Почему мне вообще в голову пришло писать о роботах? Честно, я никогда прежде не думала, что напишу что-либо в жанре фантастики, я такой поклонник драмы и реализма и так люблю живых людей, что фантастичные миры меня как-то не привлекали. До тех пор, пока я не прочла пьесу Карела Чапека.
При всей своей краткости эта пьеса подарила мне такой ворох мыслей, что меня не отпускало долгих полгода. Я очень люблю лаконичные истории, у которых между строк столько намёков и мыслей на подумать, что ты носишь в себе эту историю ещё очень долго. Так вот, меня, помню, конкретно так шарахнуло от концовки пьесы: человечество, погибшее из-за своих фатальных ошибок, из-за того, что трудяги-роботы привели к тотальной праздности людей, из-за того, что у роботов не было «лишнего»: эмоций, моральных дилемм, этики, совести, слабостей. Полная победа машин, потому что человек… это человек.
Мне нравятся идеи Чапека и его истории, но я не верю, что в условиях его пьесы мир пришёл бы к такому итогу. Да, люди ленивы, да, любят удовольствия и не любят учиться. Но люди умеют увлекаться: замени их роботы на работе, они бы занялись любимыми делали и всё равно бы что-то делали. В толпе лодырей обязательно найдётся тот, кто будет тянуться к познанию, будет изучать этот мир и искать знаний. И ещё: эмоции, слабое тело, совесть – на самом деле в этом сила человека, а не его слабость. Хотя в идейном плане пьеса Чапека работает очень и очень хорошо, за что я её и люблю.
И тут я задумалась: а каково было бы жить в мире, где роботы выше людей? Где они ценнее, чем люди, где они господа людей? Везде и всегда робот предстаёт слугой человека, ну, максимум, другом («Матрицу» в расчёт не беру – уж больно мудрёная история для простого взаимодействия «человек - машина», да и посыл совсем другой), так что идея показать перевёртыш меня так вдохновила, что я с трудом дописала третий том «Диссонанса», на которым в то время работала.
Проработка метафоры
Когда я начала проект, на меня, как бусины с порванного ожерелья, посыпались статьи о квантовых процессорах, андроидах нового поколения, принципах робототехники, особенностях искусственного интеллекта. Я глотала источники и почти сразу, со своей тягой к достоверности, пришла к решению показать роботов такими, какие они есть, - машинами, которыми управляет нейросеть, которые подчиняются собственному алгоритму (тому самому императиву, который определяет их поведение, - суть набору ответных сигналов на внешние раздражители) и которые ни при каких обстоятельствах неспособны одолеть человеческую волю, поскольку собственной у них нет.
Оговорюсь, пожалуй: есть один классный образ робота, который был злом просто потому, что не вышел за пределы вписанного в него вектора, - это Авто из мультфильма «ВАЛЛ-И». Самый недооценённый образ машины, как по мне, потому что Авто единственный, кого невозможно было переубедить не потому, что он не слушал команд или не оценивал реальность, а потому что он был и оставался машиной. В него вложили программу «А-113», и он просто не пошёл против собственного императива, как пошёл бы любой человек на его месте. Он настоящая машина, которая, кстати, рушит все законы Азимова о робототехнике: ведь, если судить, Авто получил приказ от командующего (закон, что робот во всём подчиняется приказам человека), но из-за него же не последовал прямому приказу своего капитана; программа «А-113» была направлена на то, чтобы уберечь людей от гибели, но сам Авто чуть не поубивал всех пассажиров, следуя этой директиве (закон, что робот не должен причинять человеку вред); действия Авто привели к его символической гибели (его отрубили в конце мультфильма), получается, он рисковал во имя приказа о защите, разрушив в пух и прах закон о том, что робот должен защищать своё существование, не идя при этом против первых двух законов. Интересная такая мысль на подумать: оператор может вложить в программу робота эти законы, но гарантирует ли это, что сам робот будет адекватно оценивать реальность, чтобы следовать этим законам? Я уж не говорю о моральных, чисто человеческих дилеммах, которые никакой сверхмощный ИИ не в состоянии ни осмыслить ни разрешить.
Я долго изучала особенности работы нейросетей и даже заморочилась подарить своим роботам искусственную речь, отличную от человеческой (кстати, обратившись за помощью к современному ИИ, который эту задачу просто провалил, так что реплики остались на милость моей фантазии). И, пока писала, я точнее сформулировала для себя конфликт человека и машины в своей истории: робот для человека вовсе не враг и уж точно не его господин. Он просто безвольный помощник, который здорово облегчает жизнь, но которого попросту глупо считать угнетённым рабом (как его часто прописывают в фантастике), поскольку ни воли ни даже осознания идеи бесправия у машины нет.
Если не враг, то кто же зло?
Человек, стоявший за машиной. При неспособности машины поднять бунт против человека нельзя исключать другое: за машиной может стоять человек, у которого и воля, и гений, и обида, и ещё куча инструментов, чтобы здорово подпортить человечеству жизнь. Вот почему мир, описанный в «Императиве», - мир, где роботы (в моей истории это биотроники) стали господами людей, - был результатом политики человека, а не восстания машин (кстати, если не путаю, в «Матрице» та же картина). То есть человек посчитал, что идеальная машина лучше и ценнее его (а в этом убедить людей очень легко), что, конечно, совсем не значит, что он руководствуется истиной.
- Скажи, Голиаф… - тяжело вздохнув, наконец проговорил капитан. – Если биотроники выше людей, то как человек может быть их создателем?
- Ложное противоречие, - сразу ответил биотроник. Блэйд посмотрел на него, вскинув брови, и он продолжил: - Человек не создал существо выше себя, он посчитал его таковым.
Мгновение-второе капитан взирал на Голиафа в недоумении. Его лаконичные, спокойные слова до того напомнили Блэйду бесстрастные высказывания Эм Си, что капитан не удержался и спросил:
- Голиаф, твою программу… писал только Эм Си?
- Подтверждаю.
- То есть ты не считаешь, что ты выше человека?
- Я не могу иметь своего мнения, - поправил капитана биотроник. – Я проекция воли своего создателя. Мнение может высказать только он.
Блэйд задумался, подбирая слова. Порой вопросы должны были быть очень точно сформулированы, чтобы биотроник дал нужный ответ.
- Получается, идея, что биотроники выше человека, ими не могла быть сгенерирована? Биотроник не может прийти к такой мысли сам?
«Ты воспринимаешь биотроников, как ещё одну разумную расу, Блэйд», - вспомнились проницательные слова Эм Си. Капитану казалось, что только сейчас он начал понимать, как именно биотроников воспринимает сам ведущий.
- У биотроников нет мышления, - ответил Голиаф. – Есть только алгоритм.
«Императив», глава 14
Спрашивается, как же при таких ограничениях, где у биотроников нет ни воли, ни мышления, я прописала в романе настоящих монстров? Ну, пришлось, конечно, добавить ещё несколько фантдопущений, вспомнить постулаты биофизики и теорию биополей, проанализировать, чем же в первую очередь человек отличается от робота, а не робот – от человека, как анализируют многие (и как же над этими вопросами было интересно работать!). А потом описать, что может стать с машиной, двигатель которой питается электромагнитным излучением, после контакта с человеком в тот момент, когда он выбрасывает наибольшее количество биоэнергии (минуты рождения и смерти человека, а также моменты, когда он на грани). Редкость таких моментов сделала некровисов не вселенским злом, а единичными случаями, что мне и было нужно, поскольку я планировала писать скрытую угрозу.
Но по идее получилось любопытно: машина становится монстром в тот миг, когда стремиться превзойти саму себя и стать человеком. Оттого же, что она не в состоянии ни справиться с ношей человека, ни выйти за пределы своего алгоритма, её идущий против законов природы поступок превращает её в зло (как же мне нравится эта мысль).
Там, где сверхсильную машину преодолел сверхслабый человек
Образ Эм Си – главного героя «Императива» и воплощения Человека в этом романе – я с самого начала писала, как образ героя, у которого нет мощи. Больное сердце было вписано в его портрет ещё на этапе задумки. Мне нужен был не тот, кто соревнуется с машиной в силе или идеальности. А самый обычный слабый человек (ну, ладно, от обычного человека у Эм Си немного). Просто я хотела наделить Эм Си величайшей силой в природе: силой духа.
Мне давно врезались в память слова Наполеона: «На свете есть две могущественные силы: сабля и дух. В конечном счёте, дух побеждает саблю». Парадокс человеческой воли в том, что она способна одолеть… всё. Я вспоминаю тут историю, которая в своё время меня ошеломила. Историю трёх «чернобыльских дайверов», которые спустились под четвёртый реактор АЭС, чтобы спасти миллионы людей и тысячи гектар земли от теплового взрыва и неминуемой гибели. Они знали, что дозы облучения убьют их в течение нескольких часов, их ДНК по всем законам физики должна была рассыпаться в считанные минуты. Только они выжили. Двое из них живы до сих пор. Почему? Потому что в момент предельного стресса, когда человек отбрасывает инстинкт выживания ради жизней других, его сила духа преодолевает всё, даже смертельную дозу облучения. Она доминирует над материей и всеми законами природы. Этот скрытый резерв, который включается в человеке только на краю бездны.
Этой силы не может быть ни у одного робота, потому что роботы не живые. Всю идеальность машин рушит то, что подвластно только слабым людям. О силе духа Эм Си судить не приходится: редкий человек способен на то, что этот герой преодолевал каждый день, каждую секунду. И я намеренно не стала превращать его поступок в финале книги в подвиг. Потому что в определённых обстоятельствах такое под силу и обычному человеку.
Сам Эм Си у меня один из любимых героев: такое тихое мужество просто жить есть далеко не у каждого. Я с самого начала хотела прописать его учителем (при том, что у него не было наставника – он учился у самого себя), человеком, который прошёл больше, чем могли вообразить окружающие (даже его любимая узнала о его прошлом только в конце истории), отчего его слова имели вес, а его опыт не позволял ему совершать новых ошибок. Мне нравится идея, что человека может одолеть только человек, а она в романе одна из главных. Мне нравится, что в моей книге, как и в жизни, самый сильный – это человек, и самый слабый – тоже человек. По большому счёту, я опять максимально приблизила фантастику к реальности, что не раз делала, когда писала романы в жанре фэнтези.
Когда безупречность не аргумент
Описать биотроников в моём романе можно, пожалуй, одним словом – идеальны. Они заменили человека во всех сферах труда, они способны решать задачи, которые не может решить человек, они лучшие боевые единицы, лучшие повара, лучшие производители, лучшие уборщики, просто лучшие. К тому же они бессмертны. Но даже при этом они отстают от людей – у них нет ни изобретательности, ни здравого смысла, ни жажды познания, ни воли, ни способности мыслить. Будь они способны осознать себя и разницу с человеком, людей бы они возненавидели, как в любой истории ненавидит человека любой нечеловек, пусть даже он всесилен и бессмертен.
Но у меня не было мысли писать биотроников врагами человека, как не было желания показывать их преимущество над человеком. Потому что машина была и остаётся для человека лишь одним: его помощником.
И напоследок…
Я всегда вспоминаю «Императив» как восхитительный писательский опыт. Не помню прежде, чтобы мною при создании истории владело столько идей, которые хочется донести до читателя, не помню даже, что прочитанное мной в статьях и научных источниках тотчас вписывалось бы в строки текущей истории. Писать фантастику, как оказалось, это очень увлекательно, и играть символами здесь можно не меньше, чем в фэнтези. А уж с каким удовольствием я писала некоторые сцены!
Ну, и, разумеется, эта ещё одна история, в которой всё, как надо. Надо мне. Где я верю образам роботов, поскольку в них нет абстрактности и идеализации, поскольку здесь человек прекрасен таким, какой он есть, без героизма и всё той же идеализации. Когда я задумывала посмотреть на мир в условном постканоне «R.U.R.», меня мучило любопытство, которое эта история утолила. И да, человечество в моей книге не оказалось на грани краха из-за безупречности машин. Потому что при всех своих минусах люди всё-таки прекрасны.
Если вас заинтересовал «Императив», найти его можно на моём сайте:
Делитесь мыслями в комментариях. А я пока с вами прощаюсь. И до следующего выпуска!
#фантастика #научнаяфантастика #роботы #искусственныйинтеллект #философияфантастики #литература #писательство #персонажи #человеческаяволя #силадуха #императив #авторскийблог #разборсюжета #будущеечеловечества