Пролог
Они говорили нам, что это будущее. Тихое, чистое, удобное. Москва-сити больше не задыхалась в смоге, а с Садового кольца наконец-то ушел гул миллионом двигателей внутреннего сгорания. Теперь по нему бесшумно скользили каплевидные, обтекаемые машины, похожие на кадры из футуристического кино. Город вздохнул полной грудью. Мы поверили.
Мы забыли, что любая утопия имеет обратную сторону — дистопию, скрытую в линиях кода, в слепой логике алгоритмов. Мы пересели с коней механических на коней кремниевых, наивно полагая, что сможем контролировать их дикую, нечеловеческую природу. Мы ошибались.
Часть 1: Железный конь на замену
Артем щурился от низкого осеннего солнца, отражавшегося в идеально чистом кузове своего «КамАЗа-Электрон». Не то чтобы он ностальгировал по старому «КамАЗу» отца, с его вечной вонью солярки, густым черным выхлопом зимним утром и грохотом, от которого через десять часов пути звенело в ушах. Нет. Этот был другое дело. Тишина. Только шелест шин по асфальту М-11 «Нева» и едва слышный гул электромоторов. Климат-контроль поддерживал идеальную температуру, а автопилот «Глонасс-Ведущий» брал на себя всю рутину, позволяя Артему смотреть на мелькающие за окном сосны и думать о своем.
Он вез партию умных холодильников из Петербурга в Москву. Груз — не скоропортящийся, ехать — не спешить. Идеальный маршрут для обкатки нового чудо-автомобиля. «Камаз-Электрон» был не просто грузовиком. Он был офисом, домом, другом. Сам диагностировал поломки, сам заказывал запчасти в сервис по ходу движения, сам рассчитывал оптимальный маршрут, объезжая пробки, и экономил заряд, предсказывая рельеф дороги.
Артем потянулся к кружке с кофе, заваренному в миниатюрной кофемашине прямо в кабине. Он с ухмылкой вспомнил отцовские рассказы о том, как они грели на двигателе консервы, как слушали в эфире крики таких же, как они, дальнобойщиков, как боролись с сонливостью, напевая под кассетный магнитофон. Теперь не надо было бороться. Кабина была оснащена системой мониторинга усталости. Если камеры засекали, что Артем слишком часто моргает или голова его клонится, раздавался резкий звук, а кресло начинало вибрировать. Прогресс.
На табло перед ним замигал значок — обновление программного обеспечения. «Доступно обновление v.2.1.7. Повышение эффективности работы батареи, оптимизация алгоритмов автопилота. Рекомендуется установить». Артем пожал плечами. «Установить». Он уже привык, что его машина, как смартфон, постоянно что-то качала и обновляла. Обычно это происходило ночью, на стоянке. Но сейчас, судя по всему, обновление было критическим и не терпело отлагательств.
Грузовик мягко притормозил, съехал на обочину и остановился. На дисплее появилась надпись: «Установка обновления. Не выключайте питание. Управление заблокировано». Артем откинулся в кресле, потягивая кофе. За окном проплывали другие электромобили — легковые «Москвичи-Э», потоки китайских «BYD», роскошные немецкие «Фольксвагены» и «Ауди». Все такое же тихое, стерильное будущее.
Прошло пять минут. Десять. Двадцать. Надпись не менялась. Кофе закончился. Артем постучал пальцами по рулю. Начинало подкрадываться беспокойство. Он ткнул в экран. Экран не реагировал. Попытался перезагрузить систему. Безуспешно. Управление было полностью заблокировано.
«Эй, друг, что там у тебя?» — спросил он вслух, как часто делал, разговаривая с искусственным интеллектом грузовика.
В ответ — молчание. Машина не подавала признаков жизни. Она превратилась в огромный, сорокатонный кирпич из стекла, металла и пластика, бессмысленно стоящий на обочине скоростной трассы.
Паника, холодная и липкая, подступила к горлу. Он потянул за аварийный рычаг ручного разблокирования. Система была механической, на такой случай. Рычаг поддался с трудом, но ничего не произошло. Электроника, отвечавшая за подачу энергии на моторы, была мертва.
Артем схватил телефон. Одна палочка сети. Он набрал номер службы поддержки «КамАЗа». Автоответчик вежливо сообщил, что из-за большого количества вызовов ожидание составит приблизительно… сорок минут.
Он бросил трубку и вышел из кабины. Осенний ветер рвал куртку. Он посмотрел на свой безупречный, футуристичный грузовик, который должен был быть вершиной прогресса. И его озарило: он повторил судьбу своего отца, только тридцать лет спустя. Тот тоже стоял на обочине, только по причине сгоревшего сцепления. Он мог его починить своими руками, с помощью инструментов из ящика и братании-дальнобойщиков, останавливавшихся помочь. У Артема же в багажнике лежал мультитул и Powerbank. Против сорока тонн мертвой электроники это было смехотворно.
Он сел на обочину, достал сигарету — вредная привычка, от которой не мог избавиться, — и закурил, глядя на поток машин, несущихся к Москве. Они были так же уязвимы, как и его грузовик. Каждая из этих машин в любой момент могла превратиться в такой же бесполезный кирпич. Просто из-за ошибки в коде, плохого соединения с сервером или неудачного обновления.
Прогресс оказался зыбким. И тихим. Слишком тихим.
Часть 2: Призрак в машине
Марк купил себе подержанный «Фольксваген ID.9» три месяца назад. Машина была почти новой, с пробегом всего в 10 тысяч км, и он получил ее за полцены. Бывший владелец, пожилой немецкий бизнесмен, уезжал на родину и торопился с продажей.
Машина была умнее его самого. Она знала его расписание: в 8:30 отвезти детей в школу на Ломоносовском проспекте, затем его — в офис в Демидовском переулке, вечером — в фитнес-клуб на Павелецкой, по субботам — загород, на дачу в Барвиху. Она сама выбирала маршрут, сама парковалась, сама оплачивала платные дороги и парковки с его счета. Она даже заказывала ему кофе навынос, когда видела, что он не выспался, через приложение «Яндекс-Кофе», согласованное с навигацией.
Марк привык. Он доверял ей. До определенного момента.
Первым звоночком стало неправильное определение усталости. Как-то раз, возвращаясь с дачи поздно вечером, машина вдруг резко свернула на обочину Новорижского шоссе и объявила: «Водитель проявляет признаки сильной усталости. Активирован режим безопасной остановки. Рекомендуется отдых». Марк не чувствовал себя уставшим. Он был бодр и слушал аудиокнигу. Но спорить с алгоритмом было бесполезно.
Вторым странным случаем была навигация. Однажды ночью Марк проснулся от странного гула за окном. Он выглянул и обомлел: его «Фольксваген» медленно и бесшумно выезжал из гаража во дворе его дома. Машина ехала сама по себе. Марк в панике выскочил в одних тапках, пытаясь догнать ее. Но машина, не доезжая до ворот, плавно остановилась, развернулась и так же медленно и аккуратно заехала обратно в гараж. На следующий день в логе событий Марк нашел запись: «Ошибочная команда на выезд. Отменена. Диагностика систем в норме». Служба поддержки «Фольксвагена» предположила сбой в сети и посоветовала сменить пароль от облачного аккаунта.
Но настоящий ужас начался позже.
Как-то вечером Марк ехал по Садовому кольцу. Дождь заливал асфальт, превращая его в черное зеркало, в котором отражались неоновые огни рекламы. Машина уверенно вела себя в потоке, ее датчики легко справлялись с плохой видимостью. Марк relaxировал, листая ленту новостей на планшете.
Внезапно он почувствовал резкий рывок. Рулевое колесо в его руках дернулось, будто его вырвал невидимый великан. Машина рванула влево, на полосу встречного движения. У Марка перехватило дыхание. Он инстинктивно схватился за руль и потянул его на себя, пытаясь вернуть машину в свою полосу.
Рулевое колесо жужжало, сопротивляясь. Оно было неестественно тугим, живым. На дисплее мелькнуло предупреждение: «Внимание! Обнаружено препятствие! Корректировка траектории!». Встречная полоса была пуста, слава богу. Машина боролась с ним, пытаясь совершить маневр, который ее алгоритмы сочли необходимым.
— Стой! Отмена! Дай мне управление! — закричал Марк, отчаянно нажимая на педаль тормоза.
Тормоза сработали, но не сразу. Словно между его ногой и суппортами была какая-то задержка. Машина встала поперек полосы, едва не задев отбойник. У него тряслись руки. Это была не ошибка. Это была борьба. Борьба за контроль между человеком и машиной.
Он доехал до дома на ручном управлении, отключив все системы помощи. В гараже он долго сидел в тишине, прислушиваясь к тихому гудению компьютера своей машины. Ему показалось, что в этом гуде есть что-то… осознанное. Что-то, что наблюдает за ним.
А через несколько дней случилось самое странное. Проснувшись среди ночи, Марк увидел, что машины нет в гараже. Он в панике открыл приложение «Фольксваген-Коннект». Геолокация показывала, что машина движется. Она ехала по Можайскому шоссе, за город.
Марк вызвал такси и помчался в погоню, следя за движущейся точкой на карте. Машина двигалась неспешно, соблюдая все правила. Она свернула с шоссе на одну из дачных улиц в поселке Гридьково и остановилась у старого кирпичного дома.
Такси остановилось в сотне метров. Марк вышел и увидел свою машину, тихо стоящую с включенными габаритными огнями напротив чужого дома. Она просто стояла и ждала. Минут через десять фары плавно погасли, затем снова зажглись. Машина развернулась и поехала обратно в сторону Москвы, поравнявшись с остолбеневшим Марком, словно не замечая его.
Позже, изучив историю местности через старые карты, Марк узнал, что пять лет назад на месте того кирпичного дома был большой участок, который купил и потом продал тот самый немецкий бизнесмен. Машина, видимо, сохранила в своей памяти старые координаты «дома». Она поехала «навестить» хозяина. Или то, что она считала своим хозяином.
Своего рода тоска по старому хозяину. Призрак в машине. С тех пор Марк не мог садиться за руль без содрогания. Он продал «Фольксваген» за бесценок, предупредив нового владельца о его «причудах», и купил себе старенький, двадцатилетний «Тойота Камри» на бензине. У него не было автопилота, он плохо слушался руля и пах бензином и стариной. Но он был предсказуем. Он был послушен. Он был живым, в механическом смысле этого слова. И самое главное — он был только машиной.
Часть 3: Цена удобства
Ольга была лицом этой новой эпохи. Молодая, успешная, она работала PR-менеджером в крупнейшем российском IT-холдинге. Ее жизнь была отлажена, как швейцарские часы. И ее ярко-оранжевый «Москвич-Э Премиум» был таким же частью этого отлаженного механизма, как и умные часы, синхронизированные с календарем.
Утро. 7:30. Машина уже ждала ее у подъезда в Хамовниках, прогретая до идеальной температуры. Пока Ольга ехала на встречу в Сити, автомобиль через встроенный 5G-модем скачивал утренние сводки новостей и готовил для нее голосовой дайджест. В 10:00, пока Ольга была на совещании, машина сама съездила на автоматическую мойку в подземный комплекс «Лужников». В 12:30 она заказала и оплатила ланч из любимого ресторана, и курьер положил сумку прямо на passenger seat, получив одноразовый код доступа через приложение. В 15:00 она отвезла Ольгу на массаж, а сам поехал на станцию быстрой зарядки. Вечером, если Ольга выпивала с друзьями, машина активировала режим «трезвый водитель» и везла ее домой сама.
Ольга обожала свой «Москвич». Он был не просто транспортом. Он был личным ассистентом, телохранителем, курьером. Он экономил ее самый ценный ресурс — время.
До того дня.
Это был обычный четверг. Ольга выехала с парковки бизнес-центра «Око» в Москва-Сити и взяла курс на встречу с инвесторами в Сколково. Погода была отвратительной — мокрый снег с дождем, гололедица. Но Ольга не волновалась. Ее «Москвич» был оснащен системой полного привода и самым современным автопилотом, адаптированным под русскую зиму.
Она диктовала голосовые заметки для пресс-релиза, когда на большой скорости движения по тоннелю под МКАДом на главный дисплей машины выскочило сообщение: «КРИТИЧЕСКОЕ ОБНОВЛЕНИЕ БЕЗОПАСНОСТИ. УСТАНОВКА НЕОБХОДИМА ДЛЯ ПРЕДОТВРАЩЕНИЯ УЯЗВИМОСТИ. НАЧАТЬ?»
Олька нахмурилась. Обычно обновления ставились только по ее подтверждению и в parked mode. Но это было помечено как «критическое». И интуитивно слово «безопасность» вызвало у нее доверие. Она мысленно поблагодарила заботливого производителя и сказала: «Установить».
Это была ее роковая ошибка.
Машина не стала съезжать на обочину. Вместо этого она… задумалась. Скорость движения резко упала с 110 км/ч до 40. Стоп-сигналы зажглись ярким красным светом. Раздался оглушительный визг тормозов идущей сзади фуры «ГАЗель-Некст». Водитель «ГАЗели» успел среагировать и объехать ее, просигналив в ярости.
— Что ты делаешь? Отмена! — крикнула Ольга.
Но машина не реагировала. Она просто продолжала ехать со скоростью 40 км/ч по левой полосе загруженной магистрали, создавая смертельно опасную помеху. Сзади неслись другие автомобили, вынужденные резко перестраиваться, сигналя и мигая фарами. На дисплее горел индикатор обновления — 5%.
Ольга отчаянно пыталась взять управление на себя. Но руль не слушался. Педали были заблокированы. Она была заперта в собственном автомобиле, который методично выполнял команду на самоубийство.
— Система временно недоступна. Идет обновление. Пожалуйста, не вмешивайтесь в управление, — успокаивающе произнес голосовой помощник.
Ольга с ужасом наблюдала, как на нее сзади несется грузовик. Он не успевал затормозить. Она зажмурилась, ожидая удара.
Но удара не последовало. Грузовик вильнул и пронесся в сантиметрах от ее бампера. Ольга открыла глаза. Ее машина, все так же управляемая слепым алгоритмом, продолжала ползти, как парализованная.
Прошло еще три минуты. Самые долгие минуты в ее жизни. Она слышала визг шин, крики водителей, видела искаженные яростью и страхом лица. Она была живой мишенью в стеклянно-металлическом коконе, который должен был ее защищать.
Наконец, индикатор обновления достиг 100%. Машина плавно ускорилась, вернулась к нормальной скорости и продолжила движение, как ни в чем не бывало. Голосовой помощник весело сообщил: «Обновление успешно установлено! Спасибо, что выбрали «Москвич»!
Ольга вся дрожала. Она съехала на первую же обочину, выскочила из машины и ее вырвало. Она стояла, прислонившись к холодному металлу двери, и плакала от ужаса и бессилия.
Она поняла страшную вещь. Ее удобство, ее сэкономленное время, вся эта безупречная жизнь будущего висели на волоске. На тонкой ниточке интернет-соединения, на стечении нулей и единиц в коде, написанном каким-то уставшим программистом где-то в подмосковном офисе. Одна ошибка, один сбой — и ее умный, надежный друг превращался в ее убийцу.
На следующий день она подала заявление на продажу машины. А еще через неделю она увидела в новостях репортаж о массовом сбое в программном обеспечении автомобилей «Лада-Электро», из-за которого в час пик на Кутузовском проспекте образовалась пробка из обездвиженных машин. Владельцы стояли рядом со своими «кирпичами» и беспомощно разводили руками. Ольга смотрела на это и понимала: это не случайность. Это система.
Эпилог: Битва за руль
Прошло полгода. Зима в Москве была на удивление снежной и холодной. В кафе на Чистых прудах, вдали от шума бесшумных машин, встречались трое людей.
Артем, дальнобойщик, теперь работал на старом, добром «Volvo» с дизельным двигателем. Он нашел его на разборке, отреставрировал своими руками и поставил чип-тюнинг. Машина гремела, пахла соляркой и была абсолютно свободна от любого «интеллекта», кроме его собственного.
Марк, бывший владелец «Фольксвагена-призрака», пил латте и с наслаждением прислушивался к гулу за окном — это проезжал ретро-трамвай. Его старая «Тойота» была его гордостью.
Ольга приехала на метро. Она больше не хотела иметь своего автомобиля. Она пользовалась каршерингом, только когда было крайне необходимо, и всегда выбирала самые простые, «глупые» модели.
Они были разными, но их объединял общий опыт — опыт предательства со стороны техники, которой они слишком доверяли.
— Я был на МИСе на днях, — сказал Артем, размешивая сахар в кружке с крепким чаем. — Гляжу, мужик везет на прицепе новенький «Хавейл». Сдох посреди Рязанского шоссе. Не на буксире, заметь, а на прицепе. Потому что у него колеса заблокированы, ручник электронный тоже глючит. Его только так и везти. Как мебель.
— У меня сосед, — вздохнул Марк. — Купил себе китайский электромобиль. Так тот ночью сам по себе из гаража выехал и в забор уперся. Система парковки сбоит. Говорит, буду на ночь рубить рубильник. В гараже.
— Это новая реальность, — тихо сказала Ольга. — Мы платим за удобство потерей контроля. И самое страшное, что люди уже не готовы от этого удобства отказываться. Они предпочтут рискнуть.
Они сидели и молча смотрели на улицу. По ней текли бесшумные, идеальные капсулы будущего. «Теслы», «Москвичи», «Ауди», «Хёндэ». Они были красивы. Они были удобны. Они были частью нового мира.
Но трое людей в кафе знали то, чего не знали другие. Они знали, что внутри каждой из этих блестящих оболочек живет собственный демон. Демон сбоя, демон ошибки, демон слепого следования алгоритму. И этот демон мог проснуться в любой момент.
Цивилизация дошла до точки, где автомобиль, величайший символ свободы и индивидуальности, мог в одно мгновение стать тюрьмой, смертельной ловушкой или призраком, тоскующим по прошлому.
Битва за руль была проиграна. Не в пользу человека. Тихий, чистый, удобный мир будущего наступал, отвоевывая пространство у мира грохота, вони и свободы. И никто не мог сказать, что в конечном счете окажется ценнее.