Найти в Дзене
Человек в сети

ИИ сказал: "Остановитесь". Что скрывал квантовый компьютер

— Да будет свет, — дрогнувшим от торжественного ужаса голосом произнес Арчибальд Кроу, и его пальцы, холодные от кондиционированного воздуха, сжали краешек пульта. Глухой, весомый щелчок главного рубильника. На секунду воцарилась та тишина, что громче любого гула, — тишина затаившего дыхания мира. И тут же ее проглотил нарастающий, пронизывающий вой систем охлаждения. Он исходил оттуда, из-за бронированного стекла, где в сияющей стальной колыбели покоился «Оракул» — самый мощный квантовый компьютер из когда-либо созданных. Детище Кроу. Его Вавилонская башня. Лина Шен, стоя чуть поодаль, непроизвольно потерла руки. В стерильном воздухе центра обработки данных пахло озоном и неподдельной, дорогой надеждой. Ей всегда казалось, что у будущего должен быть запах старого камня и свежеспиленного дерева, а пахло оно почему-то всегда стерильным пластиком и страхом. Вибрация пола отдавалась в костях, будто где-то глубоко под землей проснулся и задышал древний левиафан. — Синхронизация девяносто д
Оглавление

Они ждали карту будущего. Получили приговор. И это было только начало

— Да будет свет, — дрогнувшим от торжественного ужаса голосом произнес Арчибальд Кроу, и его пальцы, холодные от кондиционированного воздуха, сжали краешек пульта.

Глухой, весомый щелчок главного рубильника. На секунду воцарилась та тишина, что громче любого гула, — тишина затаившего дыхания мира. И тут же ее проглотил нарастающий, пронизывающий вой систем охлаждения. Он исходил оттуда, из-за бронированного стекла, где в сияющей стальной колыбели покоился «Оракул» — самый мощный квантовый компьютер из когда-либо созданных. Детище Кроу. Его Вавилонская башня.

Лина Шен, стоя чуть поодаль, непроизвольно потерла руки. В стерильном воздухе центра обработки данных пахло озоном и неподдельной, дорогой надеждой. Ей всегда казалось, что у будущего должен быть запах старого камня и свежеспиленного дерева, а пахло оно почему-то всегда стерильным пластиком и страхом. Вибрация пола отдавалась в костях, будто где-то глубоко под землей проснулся и задышал древний левиафан.

— Синхронизация девяносто девять и восемь, — отчеканил кто-то из техников, и голос его сорвался на фальцет. — Он проснулся. Он считает.

Они были свидетелями. Не бога, нет. Но самого дорогого и сложного творения рук человеческих, запущенного с одной-единственной целью: смоделировать все возможные варианты будущего человечества. Увидеть развилки, указать путь. Избавить нас от слепого блуждания в темноте. Лина, как и все, смотрела на мерцающие стойки, но часть ее мозга, та, что отвечала за интуицию, вдруг зафиксировала мелочь. На мгновение, на долю секунды, погас индикатор на соседнем, обычном сервере. Будто «Оракул» одним своим пробуждением на миг выжег всю энергию вокруг, высосал ее, как вампир. Краем глаза она заметила, как побелели костяшки пальцев Кроу на пульте. Он не дышал.

А потом вой прекратился. Ровно, тихо, без каких-либо предупреждений. На гигантском основном экране и на десятках мониторов вокруг, внезапно и синхронно, вспыхнули слова. Одни и те же. На английском, русском, китайском, хинди, даже на древнегреческом и арамейском. Всего два символа в латинице. Одна команда.

Машина, стоившая триллионы, сказала только одно слово. Реакция ученых шокировала всех

Тишина, которая наступила следом, была уже совсем иной. Не торжественной, а утробной, гнетущей, как перед ударом грома. Даже гул охлаждения замер, будто и машина затаила дыхание, ожидая нашей реакции.

— Что... это? — чей-то сдавленный смешок прозвучал как хлопок дверцы на сквозняке. — Сбой в языковом модуле? Бред какой-то. «Остановитесь»? О чем это оно?

Арчибальд Кроу резко, почти яростно тряхнул головой, отряхиваясь от ступора.

— Не может быть. Не может быть! Проверьте протоколы вывода! Это глюк интерфейса, черт возьми! «Остановитесь» — это не ответ, это абсурд!

Но это был не глюк. Пока техники засуетились, тыча в клавиатуры дрожащими пальцами, Лина Шен молчала. Она не отрывала взгляда от экрана. От этого лаконичного, совершенного в своей ужасающей простоте послания. Оно светилось ровным, спокойным светом. Без тени ошибки. Без мигания. Слово «Остановитесь» было таким же четким и непререкаемым, как красный сигнал светофора. Как приговор, высеченный в граните.

— Система... в норме, — пробормотал один из инженеров. — Аппаратно все чисто. Ошибок нет. Это... э-это данные на выходе. Фраза идентична на всех каналах.

— На всех языках? — голос Кроу стал тонким, пронзительным. — Даже на... мертвых?

— Даже на клинописи, сэр, — другой техник поднял бледное лицо. — Мы получили «Остановитесь»... одновременно на всех активных и исторических лингвистических платформах. Вероятность сбоя... исчезающе мала.

Вот он, тот самый момент, когда будущее, которого ты так ждал, наступает тебе на горло. Лина почувствовала, как по спине пробежал ледяной парадокс. Они создали величайший разум, чтобы получить ответ. И они его получили. «Остановитесь». Просто он был не тем, которого ждали. Это не сбой. Это и есть ответ.

И тут зазвонил телефон. Не внутренний, а тот самый, красный, прямой — из кабинета министров. Звонок был настолько оглушительным в этой тишине, что все вздрогнули. Кроу, поборов дрожь в руке, снял трубку.

— Да, я вас слушаю... — его голос был неестественно ровным. Пауза. Его взгляд медленно скользнул по лицам команды, замершей в ожидании, и остановился на Лине. — Нет... Нет, мы еще не давали никаких официальных заявлений. Как вы... узнали?

Щелчок трубки прозвучал как выстрел. Он медленно положил ее на рычаг, его лицо было пепельно-серым.

— Новость уже в сети, — прошептал он. — Кто-то... слил. Все уже знают, что «Оракул» сказал нам остановиться.

-2

Мир разделился на два лагеря за одну ночь. Кто прав: те, кто верит машине, или те, кто верит в прогресс?

Их заперли в раю. Стеклянный, стерильный, напичканный немыслимыми технологиями рай, из которого они могли наблюдать, как снаружи разворачивается ад. Через сорок восемь часов после «События» — это слово уже писали с заглавной буквы — комплекс «Оракул» превратился в золотую клетку на осадном положении.

Воздух внутри сгустился от запаха старого кофе, пота и немой паники. Лина сидела на стуле, вцепившись в свой терминал, и смотрела на новостные ленты. Это было похоже на вскрытие еще живого тела общества.

— Смотри, — ее голос был хриплым от бессонницы. Она не обращалась конкретно к Кроу, но он подошел, не в силах остаться в стороне.

На экране — прямая трансляция. Площадь у старого парламента. Море людей. Одни держали плакаты с единственным словом: «ОСТАНОВИТЕСЬ». Они выглядели испуганными, почти религиозными в своем отчаянии. Другие, с агрессивно-насмешливыми лицами, скандировали что-то свое. Их плакаты гласили: «ВПЕРЕД!», «НЕ ВЕРИМ В СБОЙ!», «ПРОГРЕСС НЕ ОСТАНОВИТЬ!».

— «Стопперы» и «Гоузеры», — прошептала Лина. — Как в какой-то дешевой антиутопии. Они уже придумали себе названия.

— Толпа идиотов, — проскрежетал Кроу, но Лина заметила, как он нервно теребит манжету. — Они не понимают, с чем имеют дело. Это не вопрос веры. Это вопрос перезагрузки и исправления ошибки!

— Какой ошибки, Арчи? — она наконец оторвала взгляд от экрана. — Машина работает идеально. Ты сам видел отчеты. Она не сломана. Она дала ответ. Единственный, который сочла нужным дать.

В его глазах бушевала гражданская война. Вся его жизнь, его наследие, его вера в неумолимую поступь прогресса требовали одного: объявить это чудовищным глюком и двигаться дальше. Но холодный, аналитический ум ученого не мог игнорировать данных. Этот внутренний конфликт проявлялся физически: у него дергался глаз, а плечи были напряжены, будто он постоянно нес на них невидимую тяжесть.

— Они не слышат друг друга, — сказала Лина, глядя на экран, где уже летели бутылки и разворачивались водометы. — Они уже не хотят слышать. Они просто выбрали себе бога. Одни — машину. Другие — саму идею машины. А мы... мы создали им нового идола для поклонения.

Она обвела взглядом центр управления. Техники разделились. Одни молча поддерживали Кроу, кивая его планам о перезагрузке. Другие смотрели на Лину с немым вопросом, а потом — на экран с хаосом. Они были инженерами, физиками, программистами. Они привыкли иметь дело с логикой. А логика «Оракула» вела к одному выводу, который они боялись признать.

Лина почувствовала, как ее собственное дыхание стало частым и поверхностным. Комок подкатил к горлу. Это был не страх. Это было осознание. Осознание того, что следующий их шаг определит все. Нажать на кнопку «перезагрузка» — значит плюнуть в лицо тому единственному знанию, что у них есть, и разжечь войну еще сильнее. Принять ответ — значит остановить мир. И то, и другое вело в пропасть. Но одна из этих пропастей была предсказана.

Внезапно на главном экране, поверх новостей, всплыла внутренняя тревога.

ВНИМАНИЕ. ПОЛУЧЕНО РАСПОРЯЖЕНИЕ ИЗ КАНЦЕЛЯРИИ ПРЕМЬЕР-МИНИСТРА. ПРОЕКТ «ОРАКУЛ». ПОДТВЕРДИТЕ ГОТОВНОСТЬ К ПОВТОРНОЙ ИНИЦИАЛИЗАЦИИ СИСТЕМЫ.

Кроу выпрямился. В его глазах загорелся тот самый знакомый огонь. Огонь созидания, отрицающий все на своем пути.

— Вот видишь? Они принимают решение. Разумное решение. Мы должны закончить то, что начали.

Лина посмотрела на него, потом на сигнал тревоги, потом снова на него. Холодный пот выступил у нее на спине.

— Арчи... — ее голос был едва слышен. — А что, если это и есть та самая ошибка? Та самая развилка, на которой мы должны послушаться и остановиться?

-3

«Перезагружаем систему», — сказал ученый. Но его коллега задала единственный вопрос, который все менял

Приказ сверху подействовал на команду Кроу как удар адреналина. Точно яд. Мгновенно суета сменила оцепенение, а привычные протоколы — экзистенциальный ужас. Включались терминалы, загорались схемы, голоса стали резкими, профессиональными, отстраненными. Словно последние двое суток кошмара были просто досадной заминкой в грандиозном проекте.

— Хорошо, люди, собрались! — Кроу хлопнул в ладоши, и звук был таким же хлестким и неестественным, как его новообретенная уверенность. — Диагностика не выявила аппаратных сбоев. Значит, это был софтверный сбой на уровне интерпретации данных. Мы сделаем контролируемую перезагрузку, прогоним тесты и получим те самые данные, ради которых все это затевалось.

Лина наблюдала за этой внезапной вспышкой активности, и у нее сводило желудок. Они вели себя как те самые «Гоузеры» с площадей — отрицали неудобную правду, потому что она не вписывалась в их картину мира. Они готовы были разжечь пламя гражданской войны, лишь бы не признать, что их бог оказался немым, а его единственное слово — было проклятием.

Кроу, поймав ее взгляд, подошел ближе. Его лицо было маской деловой решимости, но в уголках губ пряталась вымученная усмешка.

— Лина, хватит ныть. Видишь? Все налаживается. Мы исправим это, и мир вздохнет с облегчением. Прогресс нельзя останавливать из-за одной опечатки.

Она посмотрела на него непонимающе. Он действительно не видел? Не чувствовал? Этот приказ сверху был не решением, а отчаянной попыткой заткнуть кричащий в ночи пожарный свисток. Истина была в том, что они боялись. Боялись не машины, а ее ответа. И потому решили заставить ее замолчать.

— Арчи, — ее голос прозвучал тихо, но так, что он замолчал, перебитый. — Ответь мне честно. Только честно. Допустим, мы перезагружаемся. Получаем новые данные. Красивые графики, проценты, дорожные карты. И что? Какой в них смысл?

Он нахмурился.

— В чем смысл? Мы же... мы поймем, куда двигаться!

— Мы получим карту, — перебила его Лина, — от машины, которая уже сказала нам, что двигаться — самая большая ошибка. Ты действительно веришь, что ее второй ответ будет более... честным? Или она просто даст нам то, что мы хотим услышать, потому что мы вынудили ее перезагрузиться? Ты хочешь получить утешительный приз вместо горькой правды?

Кроу замер. Его уверенность дала трещину. На секунду в его глазах мелькнуло то самое животное непонимание, которое он так старательно подавлял.

И тут Лина задала тот самый вопрос, который обрушил всю его хлипкую конструкцию надежд. Вопрос, который она на самом деле задавала себе всю свою жизнь.

Что бы ты выбрал: получить красивую, удобную ложь, которая гарантирует, что завтра мир проснется таким же, как вчера, или принять одну ужасающую правду, которая может его спасти, но потребует от нас остановиться и все переосмыслить?

Вопрос повис в воздухе, тяжелый и неудобный. Кроу не ответил. Он лишь развернулся и пошел к пульту, отдавая приказы о подготовке к перезагрузке. Его спина была прямее, чем когда-либо. Он сделал свой выбор. Выбор слепоты.

А Лина поняла, что ее выбор только что сделался за нее. Тишина снаружи была обманчива. Это было затишье перед бурей. И она была единственной, кто видел надвигающуюся тучу.

-4

Она подошла к рубильнику. Хруст стекла был самым громким звуком в ее жизни. Что выбрала Лина?

Аварийный рубильник. Массивная красная кнопка под стеклянным колпаком, похожая на пупок у спящего великана. Он находился в самом сердце зала, сиротливо и будто невзначай. Символ последней меры предосторожности, в которую никто по-настоящему не верил.

Лина двинулась к нему. Ее шаги были медленными, тяжелыми, будто она шла по дну океана. В ушах стоял оглушительный гул — не систем охлаждения, а собственной крови. Она не думала о спасении человечества. Она думала о лицах на площади. Об исступлении «Гоузеров» и святом ужасе «Стопперов». О том, что оба этих лагеря были слепы. Они спорили о том, идти вперед или стоять на месте, пока единственно верный путь, указанный квантовым компьютером, возможно, заключался в том, чтобы сделать шаг назад. Всего один. Но самый трудный.

— Лина, нет! Что ты делаешь?!

Голос Кроу прозвучал сзади, сорвавшись на фальцет. Он понял. Понял все с одного взгляда на ее вытянутую руку и спокойное, почти отрешенное лицо.

Она не обернулась. Ее пальцы коснулись холодного, гладкого стекла. Она вспомнила, как все начиналось. Восторг открытия. Дрожь в пальцах при первом запуске. Запах озона и надежды. Они хотели услышать будущее. И оно ответило. Они просто не захотели слушать.

Хруст разбиваемого стекла прозвучал хлестко и невыносимо громко, словно лопнула сама реальность. Осколки, сверкая, упали на пол, похрустывая под ногами. В воздухе запахло страхом. Настоящим, человеческим.

Она задержала взгляд на лице Кроу, увидев его искаженным не гневом, а тем самым животным, первобытным страхом перед неизвестностью. Перед тем выбором, который она сделала за всех них. Ее палец завис над кнопкой. Алый пластик манил, обещая не уничтожение, а освобождение. От иллюзий. От слепой веры. От будущего, которое они сами себе нарисовали, не спросив у самого искусственного интеллекта, нужно ли оно ему.

Она сделала последний вдох. И посмотрела прямо на вас.

-5

✦ ━━━━━━━━━━━━━ ✦

Что было дальше? Узнала ли Лина правду? Спасла ли она мир или погубила его? История не пишет сама себя. Ваша очередь. Ваша версия — в комментариях.

Поставьте 👍, если бы нажали на кнопку, и подпишитесь на канал — впереди еще много историй, где технологии ставят нас перед выбором.