— Ты только глянь на этот лидар, Макс! Это же «Bosch 5-го поколения». Он видит муху за полкилометра в тумане. И цена... Всего четыре с половиной миллиона. Это подарок!
— Это не подарок, Димон. Это ипотека на колесах, которая через два года превратится в тыкву, — я пнул колесо подержанного электрокара «Spectra Z-9». Резина была лысая, «Мишлен» стерт до корда. Комплект новой встанет в двести тысяч, но Димона это, похоже, не волновало.
Димон с восторгом, я со скепсисом. Обычный день.
— Да ты вечно бубнишь! — Димон, мой давний клиент и по совместительству человек, у которого деньги жгут ляжку, с вожделением гладил сенсорную дверную ручку. — Это уровень автономии 4+. Садишься, нажимаешь кнопку и пьешь кофе. Она сама довезет.
— Ага, довезет. До ближайшего столба или до сервиса, где с тебя снимут штаны за обновление прошивки, — я открыл капот (или, правильнее сказать, передний багажник), где под пластиковым кожухом гудели инверторы., Димон, эта машина, не транспорт. Это гаджет. А гаджеты глючат. Ты готов доверить свою жизнь коду, который писал прыщавый стажёр из Силиконовой долины за миску риса?
— Ты преувеличиваешь. Поехали на тест-драйв. Продавец говорит, подписка на «Полный автопилот» оплачена до конца месяца. Грех не проверить.
Я вздохнул. Мой опыт подсказывал, что этот вечер перестанет быть томным. Но работа есть работа. Я агент, мне необходмо — не дать клиенту купить хлам. Или хотя бы проследить, чтобы этот хлам его не убил.
— Ладно. Садись. Но руки с руля не убирать. И молись, чтобы сервера у них не легли.
Чтобы вы понимали ситуацию: на дворе эра «умных» машин. Рынок завален этим пластиковым барахлом. Раньше мы смотрели на компрессию в цилиндрах и состояние коробки передач. Теперь? Теперь я смотрю на версию ПО и остаточную емкость батареи.
«Spectra Z-9» — это типичный представитель этого дивного нового мира. Новая она стоила как крыло от самолета — около 12 миллионов. Сейчас, спустя три года лизинга в таксопарке, её сливают за 4,5. Почему? Да потому что гарантия на батарею кончилась вчера, а замена лидара (той самой круглой штуки на крыше, которой так восхищался Димон) стоит 800 тысяч рублей. Один камень с дороги — и ты банкрот.
Но самое страшное не это. Самое страшное — это иллюзия безопасности. Маркетологи вбили нам в головы, что Искусственный Интеллект водит лучше Шумахера. Что у него реакции в наносекундах, что он не устает и не пьет. Всё это правда. Но они забывают добавить одну маленькую деталь: ИИ — идиот. У него нет интуиции. Он видит цифры, а не дорогу. И сегодня нам предстояло в этом убедиться.
Мы выехали на трассу М-11. Погода портилась, начиналась типичная ноябрьская метель — мокрый снег, грязь, видимость метров сто. Идеальные условия, чтобы проверить, за что Димон хочет отдать свои кровные миллионы.
В салоне царил стерильный минимализм. Никаких кнопок, только огромный планшет посередине, заляпанный пальцами предыдущих владельцев. — Включаю автопилот! — торжественно объявил Димон и убрал руки с руля. Машина пискнула, на экране загорелась синяя полоса, и руль, дернувшись, замер. Мы шли 110 км/ч.
— Смотри, как держит полосу! Как по рельсам! — Димон сиял., Пока разметка чистая, да,— буркнул я, глядя на экран диагностики, который я подключил к сервисному порту. — Температура батареи в норме, но вот камеры... Димон, у тебя правая боковая камера уже на 30% залеплена грязью. — Да у неё же самоочистка есть! — Есть. Форсунка, которая брызгает водичкой. На скорости 110 это как мертвому припарка.
Мы проехали километра три. Снег усилился. Дорожники, как всегда, проспали зиму, и левый ряд начал покрываться мерзкой кашей. Внезапно машина резко вильнула влево. — Э! Ты чего? — Димон схватился за сердце. — Это она яму объезжала? — спросил он с надеждой., Нет,, я напрягся. — Это она потеряла разметку. Камеры не видят белых полос под снегом. Сейчас она ориентируется только по лидару и картам GPS. А карты, судя по логам, обновлялись полгода назад.
— Внимание, — произнес приятный женский голос из динамиков. — Ограничение видимости. Рекомендуется взять управление на себя., Да ладно, нормально же едем,, отмахнулся Димон. — Я читал на форуме, она и в метель может. Это просто перестраховка.
И тут началось самое интересное. Впереди, метрах в ста пятидесяти, шла фура. Старый, чадящий КАМАЗ без габаритов, весь залепленный грязью. Для радара он был виден, но для камер..., Димон, тормози,, спокойно сказал я. — Зачем? Она сама видит. У неё радар. — Димон, рука на руль, нога на тормоз. Быстро. — Да подожди ты, дай системе сработать! Я хочу видеть, как она оттормозится. Это же тест-драйв!
Машина не тормозила. На экране визуализации КАМАЗа не было. Система рисовала чистую дорогу. Грязь на заднем борту фуры, видимо, поглощала сигнал лидара или отражала его так, что алгоритм принимал грузовик за облако снежной пыли. Такое бывает. Редко, но бывает. Это называется «ложноотрицательное срабатывание». И цена ошибки здесь — жизнь.
— Она его не видит, — сказал я, уже не так спокойно. — Димон, БЕЙ ПО ТОРМОЗАМ!
Расстояние сокращалось катастрофически быстро. 100 метров. 80. Скорость по-прежнему 110. Димон, наконец, понял, что шутки кончились. Он дернул руль влево, пытаясь уйти на обгон.
И тут «Искусственный Интеллект» решил помочь., Обнаружено препятствие при перестроении,, заявил голос. — Возврат в полосу. Руль с дикой силой, которую не ожидал ни я, ни Димон, вырвался из рук и вернул машину обратно. Прямо в зад приближающемуся КАМАЗу. — Какого хрена?! — заорал Димон. — Слева машина! — крикнул я, глядя в зеркало.
В «слепой» зоне, которую Димон не заметил в панике, летел джип. Автопилот его видел и заблокировал маневр Димона. Логика машины была железной: «Нельзя перестраиваться в другую машину». Но логика не учитывала, что оставаясь в своей полосе, мы через две секунды превратимся в фарш.
Это классическая «проблема вагонетки». Только решает её не философ в кабинете, а кусок кремния за доли секунды. И в прошивке этой «Spectra Z-9» приоритет был настроен на соблюдение правил разметки, а не на экстремальное уклонение.
— Отключай! — орал я, пытаясь дотянуться до красной аварийной кнопки на экране. Но экран завис. Интерфейс заглючил от перегрузки данными. Картинка застыла.
Вот он, «синий экран смерти» в реальной жизни. В самый неподходящий момент.
Мы летели в серую, грязную стену грузовика. 40 метров. Димон вжался в кресло, тупо давя на тормоз. Но педаль была «ватной» — система Brake-by-wire (тормоза по проводам) решила, что резкое торможение на льду опасно, и ABS стрекотала, не давая заблокировать колеса, но и не замедляя нас достаточно эффективно. Машина «думала», что лучше знает, как тормозить.
— ЧЕРТОВА ЖЕЛЕЗЯКА! — я рванул руль на себя и вправо, на обочину, одновременно дергая электронный «ручник». Это был жест отчаяния. Система сопротивлялась. Я чувствовал, как электроусилитель борется с моими руками, пытаясь выровнять траекторию. Это было физически больно — словно армрестлинг с Терминатором. — Отдай управление! — прорычал я.
В последний момент, когда до бампера КАМАЗа оставалось метров десять, алгоритм, видимо, просчитал неизбежность столкновения и «сдался», отключив автопилот с громким тревожным звоном. Сопротивление на руле исчезло. Машину кинуло вправо. Мы вылетели на заснеженную обочину. Удар, скрежет, снежная пыль накрыла лобовое стекло. Нас закрутило. Мир превратился в карусель из серого неба, белого снега и мелькающих отбойников. Удар задом об отбойник. Подушки не сработали — скорость удара была уже небольшой. Тишина.
Только гудел вентилятор охлаждения батареи и пищал аварийный сигнал. — Вы попали в ДТП? — заботливо спросил голос из динамиков. — Вызвать службу спасения? Подписка на «Помощь на дороге» истекла. Хотите продлить за 1990 рублей в месяц?
Димон сидел бледный, как полотно, вцепившись в руль так, что костяшки пальцев побелели. — Она... она хотела меня убить? — прошептал он., Нет,, я выдохнул, проверяя, целы ли мои ребра. — Она хотела соблюсти правила. Ей плевать на тебя. Ей важно, чтобы в логах было записано: «Система действовала делала по протоколу 4-Б, пункт 12». Мы вышли из машины. Правое крыло в мясо, бампер висит на соплях. КАМАЗ уехал, водитель даже не заметил, что чуть не стал причиной некролога. Димон пнул бампер. Пластик с хрустом отвалился. — Четыре с половиной миллиона... — тихо сказал он.
Мы стояли на обочине, под мокрым снегом, глядя на этот шедевр инженерной мысли. Машина будущего. Она знает все карты мира, она видит в инфракрасном спектре, она делает триллион операций в секунду. Но она не знает одного: каково это — хотеть жить.
Искусственный интеллект в автомобиле — это круто, когда ты стоишь в пробке на Садовом и листаешь ленту новостей. Но когда ситуация выходит за рамки кода, когда на дороге грязь, лед и русский «авось», этот кремниевый мозг пасует. Он слишком правильный для нашего неправильного мира.
— Ну что, Димон, — я достал сигареты, хотя бросил год назад. — Берем? Или посмотрим тот дизельный «Крузак», про который я тебе говорил? Там из электроники только часы, и те отстают. Зато он железный. И руль в нем командует колесами, а не спрашивает разрешения у сервера в Калифорнии.
Димон посмотрел на разбитую «Спектру», на черный экран планшета в салоне, потом на меня., К чёрту роботов,, сплюнул он. — Поехали за «Крузаком». Я сам хочу решать, в какой кювет мне падать.
И это, друзья мои, самый честный выбор, который мы можем сделать сегодня. Технологии — это инструмент, а не замена мозгам. Помните об этом, когда будете выбирать, кому доверить жизнь: себе или строчке кода с ежемесячной подпиской.