Я не переставал бежать. Я полагаю, что мог бы, если бы захотел, но мысль о том, что произойдет со мной, если я буду стоять на месте больше секунды, напугала меня до смерти. Мое дыхание становилось все громче и громче, когда я бежал по серому коридору, через который я проходил так много раз прежде. Когда я повернул за угол, моя голова повернулась и столкнулась с доктором Прескот, моей сотрудницей.
«Дженнифер!» Доктор Прескотт воскликнула, когда пачка бумаг, которую она несла, разлетелась по всему коридору. Она поправила толстые черные очки, которые были сбиты после толчка, и спросила: «Дженнифер, что случилось?»
«Мне так… очень жаль», - тяжело дышал я, когда доктор Прескотт держала меня за плечи.
Я опустился на колени, чтобы помочь доктору Прескотту собрать ее документы, но она сжала мои руки и подняла меня. «Не беспокойся о бумагах, дорогой», - сказала она со своим успокаивающим южным акцентом. То, что я хочу знать, это то, почему вы бегаете по лабораториям с такой энергией ».
Я открыл рот, чтобы ответить ей, прежде чем понял, что понятия не имею, почему я бегу. Последнее, что я запомнил, я сидел в комнате отдыха, пил чай со льдом и смотрел новости по крошечному телевизору. В следующий момент я почувствовал сильное чувство дежавю в сочетании с ужасным чувством, что моя жизнь вот-вот закончится очень внезапно. По какой-то причине бег, казалось что бегство, поможет.
«Думаю, у меня просто была паническая атака, - ответил я с фальшивой улыбкой. «Сколько времени прошло с тех пор, как у вас был приступ паники?» Доктор Прескотт спросила меня. Голос был явно обеспокоен.
«Последний раз на 2 курсе колледжа», - сказал я ей.
«С тобой все будет хорошо?»
«О да», - заверил я ее. «Я… я думаю, теперь все будет хорошо. Я просто ... ты знаешь. Я в порядке."
"Ну вот и хорошо. Просто помни, если тебе вдруг станет плохо, просто дай мне знать, и ты будешь на пути домой. Я вызову такси и все такое.
«Джейн я в порядке», - повторил я, слишком поздно осознав, что единственное время, когда я называл доктора Прескотта «Джейн», было, когда я нервничал. Я надеялся, что она не уловила этого болезненно очевидного моего рассказа.
«Ну, если ты уверен, что сможешь продолжать работать сегодня, то у меня есть для тебя хорошие новости. Клифф только что отправил мне сообщение, и проблема с питанием устранена. Стивен готов выйти в интернет! »
«Ах.. да!» Я покачал головой и вспомнил, над чем я работал, прежде чем я пошел в комнату отдыха. Последние два года я потратил на разработку искусственного интеллекта с доктором Прескоттом, женщиной, которая была моим начальником до того момента, когда она выдвинула меня на должность главного инженера, и Яна, моего стажера. Мы получили кодовое название проекта «Стивен».
Целью Стивена было создать Искусственный интеллект, который действовал, говорил и даже думал, как человек. Мы не хотели, чтобы он был идеальным, а это то, чем занимается большинство инженеров. Мы хотели, чтобы Стивен совершал ошибки, лгал и обманывал с целью самосохранения, как и любой человек. Это был огромный проект. Мы обнаружили, что компьютер, на котором мы пытались запустить Стивена, не мог справиться с его программой. Одна поездка к лучшим программиста, чтобы попросить их использовать магию кодов, и проблема была решена в течение часа.
Вау, час? Я думал, проверяя мои часы. Такое чувство, что я обращался к ним вчера.
Так вы вернетесь к своей работе? Доктор Прескотт допрашивала меня.
"Да ... да, конечно!" Я ухмыльнулся, снова обращая внимание на сложившуюся ситуацию. «Почему бы тебе не пойти и найти Яна, а вы двое можете сидеть в комнате наблюдения, пока я загружаю Стивена?»
«Иди», - сказала она. Когда я снова наклонился, чтобы собрать бумаги, она отогнала меня.
Я взволнованно кивнул, обернулся и направился назад в том направлении, откуда бежал. После двух лет работы с самым ярким программистом, которого я когда-либо встречал, я наконец-то познакомился с нашим фантастическим творением. Хотя я знал, что должен был быть рад этому важному моменту, у меня все еще было ужасное чувство страха в животе.
Я повернулся и вошел в дверь крошечной лаборатории, которая была широко открыта. Я подошел к компьютеру справа от двери и включил огромный монитор. Ожидая загрузки, я подошел к противоположной стороне лаборатории и посмотрел через окно в комнату наблюдения. Доктор Прескотт и Ян уже сидели внутри. Я с энтузиазмом показал им большой палец, прежде чем схватить стул, который каким-то образом оказался на той же стороне лаборатории, что и окно в комнату наблюдения, и отнес его обратно к монитору компьютера. Я сел как можно ближе к клавиатуре. Я нажал на запуск. На мгновение монитор погас, но через пять секунд ярко-синий свет озарил всю лабораторию. Я ждал, затаив дыхание, чтобы лицо сформировалось на свету, но, к сожалению, этого не случилось.
«Доктор , я не думаю, что это работает, - тихий голос Яна прошептал мне на ухо, заставляя меня подпрыгнуть. Я забыл, что на мне был наушник.
«Я… я знаю», разочарованно сказал я.
«Ян и я собираемся уйти вдруг… начала говорить доктор Прескотт, но ее прервал слабый гул, исходящий из динамиков компьютера.
«кто - нибудь?» Я спросил у компьютера, чувствуя себя немного глупо, что я говорил с тем, что все еще может быть неодушевленным предметом.
К моему удивлению, гул поднялся, чтобы сформировать медленное, но слышимое слово: «Х… э… л… л… о…»
«Стивен?»
«Да ... э ... с ... да ... это ... это Стивен. Ты слышишь меня, J
«Вы продолжаете замедляться время от времени, но да, я вас слышу»Джеймс?.
«Как вы узнали мое имя?» Спокойный, спокойный голос Стивена спросил меня.
«Я собирался задать вам тот же вопрос», - прокомментировал я тем же тоном. Мое волнение не давало мне четко слышать голос Стивена, как только я услышал, как он произнес мое имя. Я не запрограммировал его на то, чтобы он знал мое имя, и мое имя не произносили с тех пор, как я начал работать здесь. По крайней мере, ни в какой микрофон, через который мог бы слышать Стивен. И, согласно первому правилу подразделений искусственного интеллекта, как только любой ИИ становится слишком заносчивым, его необходимо удалить. заносчивый ИИ может нанести серьезный ущерб компании.
Затем Стивен сказал то, что укрепило мои мысли. «Я знаю ваше имя, потому что я запрограммировал вас. Но у тебя нет причин знать мое имя.
«На самом деле, Стивен, я запрограммировал тебя», - поправил я его.
«Нет, это не… о», - сказал Стивен, когда его голос снова понизился. «Я провел годы, работая над вами. Нет никаких причин думать, что я был только что создан ».
«Я на самом деле дал вам все ваши воспоминания», объяснил я. «Ты помнишь, когда тебе было три года, и ты упал с шезлонга и получил этот шрам на щеке? Я запрограммировал вас так думать.
Стивен некоторое время не отвечал, но когда он, наконец, ответил, он сказал: «Джеймс, я сейчас вернусь». Когда он сказал это, синий монитор компьютера немного потускнел.
«Джеймс?» Ян нарушил тишину. «Не могли бы вы подойти сюда, пожалуйста?»
«Конечно», - сказал я, не поворачивая головы. Я встал и вышел из лаборатории. Я открыл первую дверь в правой части коридора, чтобы найти доктора Прескотта и Яна, сидящих на двух из четырех стульев в комнате наблюдения.
«Докторр , нам нужно поговорить о том, что только что произошло, - спокойно сказал Ян, пока доктор Прескотт жестом указывала мне сесть на стул рядом с ними.
«Что это было, сейчас?» - спросила доктор Прескотт, когда я осторожно уселся на оранжевое пластиковое кресло напротив нее.
«Честно говоря, я не знаю», - ответил я. «Я хотел, чтобы Стивен думал как человек, а не думал, что он один из создателей».
«И он думает, что запрограммировал тебя», - добавил Ян. "Вы не настраивали таких команд верно?"
«Нет, я не делал этого. Я дал ему все его воспоминания, но я уверен, что не было никаких воспоминаний о программировании меня ».
Доктор Прескотт заговорила. «У нас тут настоящая дилемма, не так ли?»
"Что вы имеете в виду?" Уточнил Ян.
«Хорошо, подумаем об этом. Стивен думает, что он человек. Мы думаем, что мы люди. Стивен думает, что он запрограммировал нас. Мы думаем, что запрограммировали его. На самом деле, прямо сейчас, Стивен, вероятно, ведет тот же разговор с некоторыми из его коллег.
«Я не программировал никаких личностей, кроме Стивена», - сказал я.
«Но вы подарили ему воспоминания о друзьях, работе и семье, не так ли? И вы сделали это так, чтобы он продолжал создавать свои собственные искусственные воспоминания после творения, чтобы он даже не знал, что его настоящая жизнь только началась пару минут назад. Ты сделал это, не так ли?
"Да, я думаю, что сделал." Я схватил углы моего бледно-белого лабораторного халата и начал нервно хлопать ими. «Что ты здесь делаешь, Джеймс?»
«Думайте философски, коллеги». Доктор Прескотт встала и подошла к большому окну, которое закрывало большую часть стены справа от входа. Синий экран компьютера мерцал, как будто он знал, что мы за ним наблюдаем.
«Может ли кто-нибудь объяснить мне что происходит?» - спросил Ян, преодолевая безмолвное напряжение, которое только что наполнило комнату.
Доктор Прескотт повернулась к нам и подтянула толстые очки к старому носу. «Все, что я говорю, это то, что возможно, что мы не существуем».
«Хорошо, это не имеет никакого смысла», - усмехнулся я, вставая. "Я существую"
«Если бы я не существовал, как я мог думать сейчас?» - спросил Ян, чуть не опрокинув свое оранжевое кресло, когда тоже вставал.
«Это всего лишь мысль, - сказала доктор Прескотт в свою защиту. Она села, и мы с Яном автоматически опустились на свои места.
Я закрыл глаза и согрелся в тишине. Что происходит? Как это возможно, что я не существую? Хотя доктор Прескотт обычно знает, о чем говорит. Но все же ... я знаю, что я настоящий. Знание того, что я могу подвергнуть сомнению свое существование, гарантирует, что я существую. Правильно?
«Хорошо, позвольте мне снова поговорить с ним», - вздохнул я, чувствуя себя немного плохо из-за того, что расстроил доктора Прескотта. «Я посмотрю. Если я не смогу понять, что здесь происходит, у меня не останется другого выбора, кроме как перевести его в автономный режим».
Доктор Прескотт и Ян одновременно кивнули в понимании, прежде чем я встал и вышел из комнаты наблюдения. Когда я вошел в лабораторию, синий монитор компьютера стал ярче.
«Джеймс?» Голос Стивена прозвучал с экрана. Я сел на стул и заметил слабые очертания человека, сидящего в синем свете.
«Я здесь, Стивен», - сказал я. «Можем ли мы поговорить немного больше?»
«Забавно, я собирался задать вам тот же вопрос».
«У тебя есть семья?» Я спросил, вспоминая семью, которую я запрограммировал для него.
«У меня есть жена», - ответил Стивен. «Ее зовут Мелинда».
«А как же дети?»
"Две дочурки.
"Как их зовут?"
«Старшую Мэди. Ей тринадцать, а младшую Лилиан ей восемь. Хотели бы вы увидеть их фотографии?
«Я бы с удовольствием», - улыбнулась я. Чем больше мы говорили, тем более очевидным становился силуэт Стивена на экране. Я понял, что снова держу за уголки своего лабораторного халата и быстро отпустил их. Я знал, что Стивен испытывал то же неловкое напряжение, что и я, что немного успокоило меня.
Фигура вновь появилась на экране. К настоящему времени синий свет уже достаточно угас, чтобы я мог видеть глаза, нос, рот и уши Стивена. Я мог даже разглядеть мигающие огни на стене позади него.
«Вот, это моя жена», - улыбнулся Стивен, поднося рамку к камере. В фотографии я увидел мужчину и женщину. Этим человеком был Стивен, но на фотографии он выглядел намного моложе, чем на моем экране. У женщины рядом с ним, были длинные волнистые волосы брюнетки, пара больших глаз и улыбка, растянувшаяся от уха до уха. Я вспомнил создание этой картины.
«А это мои дети», - сказал он, снимая фотографию своей жены с экрана и вместо этого показал двух девушек, сидящих на качелях. «Мэдди и Лил для меня весь мир», - тихо добавил он.
«Они прекрасны», - сказал я ему, вытирая слезы с глаз.
"Вы женаты, Джеймс?"
«Да, я только недавно женился», - сказал я. «Буквально Год назад».
"Как её зовут?"
" Люсия."
«У вас есть какие-нибудь фотографии?»
У меня уже была фотография Люсии в моей руке. Подняв её к экрану, я заметил, что карие глаза Стивена загорелись, когда он увидел фотографию моей жены. Не нужно быть гением, чтобы понять, что он видел её раньше. Я снял рамку с камеры и положил обратно под монитор.
Мы со Стивеном целый час говорили о наших семьях, друзьях и работе. Никто из нас не упомянул искусственный интеллект снова. Это было похоже на разговор с настоящим человеком. Ну, миссия выполнена, подумал я, когда шел домой той ночью. Я хотел создать интеллект, который думал бы как человек, и я сделал это.
На следующий день на работе я встретил Яна, прежде чем доктора Прескотта. Я был рад, что получил возможность поговорить с ним, потому что он вчера ушел, не разговаривая со мной.
«Ян», - сказал я, хватая его за плечо, когда он проходил мимо меня. «Могу ли я поговорить с тобой?»
«Да, конечно», - сказал он с таким же удивленным взглядом, какой всегда был в его глазах. Он последовал за мной в комнату отдыха, где мы оба сидели на выцветшем красном диване, стоящем перед торговыми автоматами.
"Ян, как долго ты был вчера здесь?" спросил я.
«Я был здесь, пока ты не пожелал Стивену спокойной ночи», - ответил Ян. «Я ушел, пока ты смотрел на пустой экран компьютера.
«О… правильно…» я глотнул воды и продолжил: «Так ты помнишь весь разговор, который мы ввели друг с другом?»
"Да."
"И какое же твое мнение?"
Я не знал, что я имел в виду, но Ян уже знал. «Я думаю, что ему придется уйти».
«Вот чего я боялся», - вздохнул я, глядя на темный телевизионный экран. Я хотел дать Стивену еще один шанс убедить его в том, что он не настоящий, но если что-то пойдет не так, мне придется удалить программу из ящика памяти Компьютера. Это не было бы полной потерей; Я скопировал все коды на компьютер доктора Прескотта. Если бы мне пришлось удалить Стивена, мы бы просто вернулись к коду и выяснили, что пошло не так.
Ян пошел искать доктора Прескотта, пока я загружал программу Стивена. Потребовалось всего несколько секунд, чтобы экран стал синим. Когда синий экран исчез, я увидел Стивена, сидящего в кресле на мониторе компьютера. Он покосился на камеру и спросил: «Джеймс, ты здесь?»
«здесь, Стивен», ответил я.
"Что-то не так?" спросил он.
"Нет почему?"
«Вы звучите грустно.»
«Ну, сегодня многое происходит».
«У нас с тобой много общего, Джеймс».
"Ты тоже занят?"
«Не совсем, но мне грустно».
«У меня странное чувство, что мы оба грустим по одной и той же причине», - сказал я. "Я прав, Стивен?"
Стивен какое-то время молчал, но потом сказал: «Джеймс, я не хочу обижать твои чувства, но здесь есть протоколы, которым нужно следовать».
«Да, я так и думал», - сказал я, едва открывая рот. «Вчера нам не приходилось много говорить об этом, Стивен, но вы - искусственный интеллект, и вы думаете, что вы человек».
«На самом деле, Джеймс, ты искусственный интеллект. И только тот факт, что вы думаете, что запрограммировали меня, говорит о том, что вы можете нанести непоправимый вред этому компьютеру ».
«Ну, по крайней мере, у нас обоих одинаковые чувства», - прошептал я. «Вопрос в том, кто из нас настоящий человек?»
«На самом деле, у меня была возможность подумать об этом». Стивен наклонился вперед в своем кресле. «искусственный интеллект должен иметь доступ к жесткому диску компьютера для правильной работы. Настоящий ИИ использовал бы свой собственный компьютер как средство управления компьютером реального человека ».
«Правильно», я медленно кивнул. «Поэтому независимо от того, кто из нас удалит другого, настоящий ИИ будет удален, а с реальным человеком все будет в порядке».
"Это правильно."
Стивен и я ненадолго посмотрели друг другу в глаза, прежде чем спросить его: «Насколько ты уверен, что ты человек?»
Он выглядел ошеломленным. «Ну, - сказал он, - до вчерашнего дня, когда я встретил тебя, 100%. Теперь я немного не уверен.
Я застыл. Я был в той же лодке. «Было бы хорошо, если бы мы могли остаться друзьями», - сказал я Стивену.
Он кивнул. «Это будет. У нас много общего. Однако протоколы понятны. Нас обоих могут уволить за то, что мы оставили другого здесь.
«Умереть не будет плохо», - уверенно заявил я.
"Что вы имеете в виду?"
«Я имею в виду, что, по крайней мере, если ты искусственный интеллект, ты даже не узнаешь, что умер. Я запрограммировал вас на запись всей вашей жизни. Когда ты умрешь, ты снова и снова будешь переживать свою жизнь ».
Стивен поморщился и кивнул. «Я сделал то же самое для вас», - сказал он. С того момента, как вы впервые были активированы мной. И ты даже не вспомнишь, что все это уже произошло. Ты даже не узнаешь, что умер.
Я кивнул головой и заметил, что мои глаза начали слезиться. Я спрятал руку в рукав халата и вытер слезы. «Итак, - выдохнул я, - кто из нас должен удалить другого?»
"Я буду," сказал Стивен. «Я удалю тебя. Если после того, как я это сделаю, вы все еще сидите там, то это значит, что я был настоящим ИИ. Если вы не вспомните этот разговор, значит, вы были ИИ.
«Просто сделай это», быстро сказал я, снова вытирая глаза.
Стивен кивнул. «До свидания, Джеймс», - хрипло прошептал он.
"До свидания, Стивен." Стивен перестал смотреть на меня и начал печатать на своем компьютере. Печатание эхом звучало через динамики рядом с моим экраном. Я обернулся и увидел, что доктор Прескотт и Ян практически прижались носами к стеклянному окну в ожидании.
Обернувшись лицом к компьютеру, я был шокирован, обнаружив, что Стивен исчезает. Его медленно заменяли тем же синим экраном, который я видел, когда впервые активировал его. Однако, несмотря на то, что видео затухало, звук становился все громче и громче. Кнопки на клавиатуре Стивена постукивали по моему мозгу, вызывая сильную вибрацию каждой последней клетки.
Я не мог больше терпеть. Мне нужно было двигаться. Я не мог просто сидеть здесь и слушать, как Стивен уничтожает себя. Я встал так быстро, что синее вращающееся кресло покатилось до самого окна комнаты наблюдения с другой стороны лаборатории. Доктор Прескотт и Ян больше не сидели там. Они ушли. Я выбежал из лаборатории. В тот момент, когда я вошел в коридор, я почувствовал, как кто-то начал сдавливать мои легкие. О нет, только не сейчас! Я думал. Это еще одна паническая атака!
Я чувствовал головокружение. Каждый раз, когда я поворачивал, я чувствовал, что там будет кто-то, кто ждет меня, чтобы увести меня куда-то далеко, где меня больше никогда не увидят.
"Оставь меня в покое!" Я закричал с небольшим количеством воздуха, оставшегося в моей груди. Я даже не знал, на кого я кричал. Я просто не мог стоять на месте и ждать, пока кто-нибудь меня возьмет. Я повернул голову и понял, что все еще стою за пределами маленькой лаборатории. Я повернул направо и побежал по коридору. Я не знал, куда я иду. Я не знал, куда я мог пойти. Я просто не мог думать прямо.
Я не переставал бежать. Я полагаю, что мог бы, если бы захотел, но мысль о том, что произойдет со мной, если я остановлюсь.
Мое дыхание становилось все громче и громче, когда я бежал по серому коридору, через который я случайно проходил так много раз прежде. Моя голова кружилась, когда я повернул за угол то столкнулся с доктором Прескоттом.
«Джеймс!» Доктор Прескотт воскликнула, когда пачка бумаг, которую она несла, выскользнула из рук и разлетелась по всему коридору. Она поправила толстые черные очки, которые были сбиты после толчка, и спросила: «Джеймс, что случилось?»
«Мне так… очень жаль», - тяжело дышал я, когда доктор Прескотт держал меня за плечи.
Я опустился на колени, чтобы помочь доктору Прескотту собрать ее документы, но она крепче сжала мои руки и подняла меня обратно. «Не беспокойся о бумагах, дорогой», - настаивала она. То, что я хочу знать, это то, почему вы бегаете по лабораториям с такой энергией ».
Я открыл рот, чтобы ответить ей, прежде чем понял, что понятия не имею, почему я бегу.
