13 марта 2004 года солнце едва поднималось над горизонтом, но салон-бар Slash X в центре пустыни Мохаве уже был переполнен людьми.
Бар находится на окраине Барстоу, калифорнийского города между Лос-Анджелесом и Лас-Вегасом. Это место популярно среди ковбоев и внедорожников, но в тот весенний день привлекло внимание другой толпы. Самодельный стадион, который был построен, был заполнен инженерами, взволнованными зрителями и безрассудными бензиновыми головами, у которых была общая мечта: стать первыми людьми на Земле, которые увидят, как машина без водителя выиграет гонку.
Гонка была организована Агентством перспективных исследований в области обороны США, или DARPA (по прозвищу «безумная наука» Пентагона). Агентство некоторое время интересовалось беспилотными транспортными средствами, и на то были веские причины: придорожные бомбы и целевые атаки на военные машины были основной причиной смерти на поле боя. Ранее в том же году DARPA объявила о своем намерении сделать треть вооружений сухопутных войск США автономными к 2015 году.
До этого момента прогресс был медленным и дорогим. За два десятилетия DARPA потратила около полумиллиарда долларов на финансирование исследований в университетах и компаниях в надежде достичь своих целей. Но потом пришла гениальная идея: почему бы не создать конкуренцию? Агентство пригласит любого в стране разработать свой собственный автомобиль без водителя и сразиться с ним на трассе на длинные дистанции с призом в 1 миллион долларов для победителя. Это был бы быстрый и дешевый способ дать DARPA преимущество в достижении своей цели.
Утром в 132-мильной гонке на Слэш Х вместе с несколькими тысячами зрителей собрались ветхие автомобили. Все пошло не так, как планировалось. Одна машина перевернулась в стартовой зоне, и ее пришлось снять. Самодвижущийся мотоцикл едва очистил стартовую линию, прежде чем он перевернулся на бок и был объявлен вне гонки. Одна машина врезалась в бетонную стену в 50 ярдах. Другая запуталась в колючей проволоке. Сцена вокруг барной стойки стала выглядеть как кладбище роботов.
Самый результативный автомобиль, въезд в Университет Карнеги-Меллона, проехал внушительные 7 миль, прежде чем неправильно оценить холм - в этот момент шины начали вращаться и без помощи человека продолжали вращаться, пока не загорелись. Это было закончено поздним утром. Организатор DARPA забрался в вертолет и подлетел к финишной черте, чтобы сообщить ожидающим журналистам, что ни одна из машин не доберется так далеко.
Гонка была масляной, пыльной, шумной и разрушительной - и закончилась без победителя. Все эти группы людей работали в течение года над созданием, которое в лучшем случае длилось несколько минут.
Но соревнование было совсем не катастрофой. Соперничество привело к взрыву новых идей, и к следующему DARPA Grand Challenge в 2005 году технология была значительно улучшена. Пять удивительных автомобилей без водителя завершили гонку без участия человека.
Теперь, более чем десятилетие спустя, общепризнанно, что будущее транспорта без водителя. В конце 2017 года Филип Хаммонд, британский канцлер казначейства, объявил о намерении правительства иметь к 2021 году автомобили без водителя - без бортпроводника - на британских дорогах. Немецкий производитель автомобилей Daimler пообещал автомобили без водителя к 2020 году и Ford к 2021 году. Другие производители сделали аналогичные прогнозы для своих автомобилей без водителя.
На первый взгляд, строительство автомобиля без водителя звучит так, как будто это должно быть относительно легко. Большинству людей удается овладеть необходимыми навыками вождения. Плюс, есть только два возможных выхода: скорость и направление. Вопрос в том, сколько газа подать и сколько крутить колесо. Как трудно это может быть?
Но, как показал первый DARPA Grand Challenge, создание автономного автомобиля намного сложнее, чем кажется. Ситуация быстро усложняется, когда вы пытаетесь получить алгоритм для управления большим количеством металла, движущегося со скоростью 60 миль в час.
Представьте, что у вас есть две машины, приближающиеся друг к другу на скорости и движущиеся в разных направлениях по извилистой дороге.
Водителю-человеку будет вполне комфортно в этом сценарии, зная, что другой автомобиль будет придерживаться своей полосы движения и безопасно проехать несколько футов в сторону. «Но в течение долгого времени похоже, что вы будете бить друг друга», - объясняет Пол Ньюман, профессор робототехники в Оксфордском университете и основатель Oxbotica, компании, которая производит автомобили без водителя.
Как научить машину без водителя не паниковать в такой ситуации? «Вы не хотите, чтобы транспортное средство выезжало с обочины дороги, пытаясь избежать столкновения, которое никогда не должно было произойти», - говорит Ньюман. Но, в равной степени, вы не хотите, чтобы это было самодовольным, если вы действительно оказались на грани лобового крушения. Помните также, что эти автомобили только когда-либо делают образованные предположения о том, что делать.
Как вы можете правильно угадывать каждый раз? Это, говорит Ньюман, «трудная, трудная проблема».
Это проблема, которая долго озадачивала экспертов, но у нее есть решение. Хитрость заключается в том, чтобы встроить модель поведения других вменяемых водителей. К сожалению, этого нельзя сказать о других нюансах вождения.
«Сложно все проблемы с вождением, которые не имеют ничего общего с вождением», - говорит Ньюман.
Например, как вы научите алгоритм самостоятельного вождения понимать, что вам нужно быть особенно осторожными при прослушивании мелодий грузовика с мороженым или при прохождении группы детей, играющих с мячом на тротуаре?
Еще сложнее, как научить машину, что она иногда нарушает правила дорожного движения? Что если скорая помощь с включенными фарами пытается проехать по узкой улице, и вам нужно подъехать на тротуаре, чтобы пропустить ее? Или, если нефтеналивной танкер переправился через переулок страны, и вам нужно выбраться оттуда любым возможным способом?
«Ни один из них не включен в« Кодекс дорожного движения [Великобритании] », - отмечает Ньюман. И все же по-настоящему автономный автомобиль должен знать, как справляться со всеми этими сценариями, если он существует без какого-либо вмешательства человека. Даже в экстренных случаях.
Это не значит, что это непреодолимые проблемы. «Я не верю, что есть какой-то уровень интеллекта, который мы не сможем заставить машину делать», - говорит Ньюман. «Единственный вопрос - когда».
К сожалению, ответ на этот вопрос, вероятно, не в ближайшее время. Та мечта без водителя, которую мы все ждем, может быть намного дальше, чем мы думаем. Это потому, что есть еще одна сложность, с которой приходится сталкиваться, пытаясь создать фантастическую фантастическую фантазию о том, что автомобиль без водителя без рулевого управления, куда бы ни делали, - это тот, который выходит далеко за рамки технических задач.
Полностью автономному автомобилю также придется столкнуться с хитрой проблемой людей. «Люди вредны», - говорит Джек Стилго, социолог из Университетского колледжа Лондона, который изучает социальное влияние технологий. «Они активные агенты, а не просто пассивные части пейзажа».
Представьте себе мир, в котором существуют действительно совершенно автономные транспортные средства. Правило № 1 в их бортовых алгоритмах будет по возможности избегать столкновений. И это меняет динамику дороги. Если вы стоите перед машиной без водителя, она должна остановиться. Если вы выходите перед одним на перекрестке, он должен вести себя покорно.
«Люди, которые до сих пор были относительно бессильны на дорогах, например, велосипедисты, могут начать ездить на велосипеде очень медленно перед машинами с автоматическим управлением, зная, что агрессии никогда не будет», - говорит Стилгое.
Обойти эту проблему может означать введение более строгих правил в отношении людей, которые злоупотребляют своим положением велосипедистов или пешеходов. Конечно, это было сделано раньше: подумайте о сойке. Или это может означать вытеснение всего остального с дороги, как это произошло с внедрением автомобиля. Вот почему вы не видите велосипеды, лошадей, телег, колясок или пешеходов на скоростной дороге.
Если нам нужны полностью автономные автомобили, нам почти наверняка придется делать что-то подобное снова и ограничивать количество агрессивных водителей, грузовиков с мороженым, детей, играющих на дороге, дорожных знаков, сложных пешеходов, транспортных средств скорой помощи, велосипедистов, скутеров и все остальное, что делает проблему автономии такой сложной. Это хорошо, но это немного отличается от того, как идея в настоящее время продается нам.
«Риторика автономии и транспорта заключается в том, чтобы не менять мир», - говорит Стилгое. «Речь идет о том, чтобы сохранить мир таким, какой он есть, но создать и позволить роботу быть таким же хорошим, как и человек, и лучше, чем человек при его навигации. И я думаю, что это глупо.
Но подожди, некоторые из вас могут думать. Разве эта проблема уже не была взломана? Разве Waymo, автономная машина Google, уже не проехала миллионы миль? Разве полностью автономные автомобили Waymo (или, по крайней мере, почти полностью автономные автомобили) в настоящее время не ездят по дорогам Феникса?
Ну да. Но не каждая миля дороги создана одинаково. Большинство миль так легко проехать, что вы можете сделать это во время сна. Другие гораздо сложнее.
На момент написания этой статьи автомобилям Waymo не разрешалось ездить куда угодно: они «огорожены» в небольшом заранее определенном районе. Так же, как и автомобили без водителя, которые Daimler и Ford предлагают иметь на дорогах к 2020 и 2021 годам соответственно. Они ограничены заранее определенной зоной перехода. И это делает проблему автономии проще.
Ньюман говорит, что будущее автомобилей без водителя будет включать в себя такие типы зон.
«Они выйдут на работу в хорошо известную область, где их владельцы уверены, что будут работать», - говорит Ньюман. «Таким образом, это может быть часть города, а не посреди места с необычными дорогами или где коровы могут бродить по тропинке. Может быть, они будут работать в определенное время дня и в определенных погодных ситуациях. Они будут работать как транспортная служба ».
Лизан Бейнбридж, психолог из Университетского колледжа Лондона, в 1983 году опубликовала своеобразное эссе под названием «Ирония автоматизации», посвященное скрытым опасностям чрезмерного использования автоматических систем. Она объяснила, что машина, созданная для улучшения работы человека, приведет, по иронии судьбы, к снижению человеческих способностей.
К настоящему времени мы все засвидетельствовали это каким-то небольшим образом. Вот почему люди больше не могут вспомнить телефонные номера, почему многие из нас изо всех сил пытаются прочитать свой собственный почерк и почему многие из нас не могут никуда перемещаться без GPS. Благодаря технологиям, которые делают все это для нас, у нас мало возможностей практиковать наши навыки.
Есть некоторые опасения, что это может произойти с автомобилями с самостоятельным вождением - где ставки намного выше, чем с почерком. Пока мы не достигнем полной автономии, автомобиль все равно иногда неожиданно передает управление водителю. Сможем ли мы инстинктивно вспомнить, что делать? И смогут ли подростки-водители будущего когда-нибудь освоить необходимые навыки вождения?
Но даже если всем водителям удастся сохранить компетентность, есть еще одна проблема, с которой нам все равно придется столкнуться: какой уровень осведомленности задается водителю-человеку до того, как автопилот отключится?
Один уровень заключается в том, что водитель должен всегда внимательно следить за дорогой. На момент написания, Автопилот Тесла является одним из таких примеров такого подхода. В настоящее время он похож на необычный круиз-контроль: он будет рулить, тормозить и ускоряться на автомагистрали, но ожидает, что водитель будет настороже, внимателен и готов к работе в любое время. Чтобы убедиться, что вы обращаете внимание, звучит сигнал тревоги, если вы слишком долго убираете руки от руля.
Но это не тот подход, который хорошо закончится. «Даже очень мотивированный человек не может поддерживать эффективное визуальное внимание к источнику информации, о котором очень мало, в течение более получаса», - написала Бейнбридж в своем эссе.
Другие автономные автомобильные программы находят те же проблемы. Хотя автомобили без водителя Uber требуют вмешательства человека каждые 13 миль, привлечь внимание водителей остается проблемой. В марте в городе Темпе, штат Аризона, автомобиль Uber сам по себе смертельно ударил пешехода. Видеозапись из салона автомобиля показала, что сидящий за рулем «человеческий монитор» смотрел в сторону от дороги в моменты перед столкновением.
Хотя это серьезная проблема, есть альтернатива. Автомобильные компании могут признать, что люди будут людьми, признать, что наш разум будет блуждать. В конце концов, способность читать книгу во время вождения является частью привлекательности автомобилей с самостоятельным вождением.
Некоторые производители уже начали собирать свои автомобили, чтобы учесть наше невнимание. Пилот пробки Audi - один из примеров. Он может полностью захватить вас, когда вы находитесь в медленном движении по шоссе, оставляя вас сидеть и наслаждаться поездкой. Просто будьте готовы вмешаться, если что-то пойдет не так. Но есть причина, по которой Audi ограничила свою систему медленным движением на дорогах с ограниченным доступом. Риск катастрофы ниже при заторах на автомагистралях.
И это важное различие. Потому что, как только человек перестает следить за дорогой, вы получаете наихудшую возможную комбинацию обстоятельств, когда происходит чрезвычайная ситуация. У водителя, который не обращает внимания, будет очень мало времени, чтобы оценить свое окружение и решить, что делать.
Представьте себе, что вы сидите в автомобиле с автоматическим управлением, слышите сигнал тревоги и отрываете взгляд от своей книги, чтобы увидеть, как впереди грузовик сбрасывает груз на ваш путь. В одно мгновение вам придется обрабатывать всю информацию вокруг вас: мотоцикл в левой полосе, фургон, сильно тормозящий впереди, автомобиль в слепой зоне справа от вас. Вы будете совершенно незнакомы с дорогой именно в тот момент, когда вам нужно будет знать ее лучше всего.
Добавьте к этому недостаток практики, и вы будете настолько плохо экипированы, насколько сможете, чтобы справляться с ситуациями, требующими самого высокого уровня мастерства.
Исследование 2016 года имитировало людей в качестве пассажиров, читающих книгу или играющих на своих мобильных телефонах в автомобиле с автоматическим управлением. Исследователи обнаружили, что после того, как прозвучал сигнал тревоги для пассажиров, чтобы восстановить контроль, им потребовалось около 40 секунд, чтобы сделать это.
По иронии судьбы, чем лучше становится технология самостоятельного вождения, тем хуже становятся эти проблемы. Неаккуратный автопилот, включающий сигнал каждые 15 минут, будет постоянно держать водителя включенным и в обычной практике. Именно плавные и сложные автоматические системы, которые почти всегда надежны, вам нужно следить.
«Наихудший случай - это автомобиль, который будет нуждаться в водительском вмешательстве каждые 200 000 миль», - заявил в 2017 году технологический журнал IEEE Spectrum , глава научно-исследовательского института Toyota .
Пратт говорит, что кому-то, кто покупает новую машину каждые 100 000 миль, возможно, никогда не понадобится брать контроль над машиной. «Но время от времени, может быть, раз на каждые две машины, которыми я владею, случается один раз, когда он внезапно начинает звучать« гудок, гудок, теперь ваша очередь! » Пратт рассказал журналу. «И человек, обычно не видевший этого годами, мог бы. , , не будь готов, когда это произошло.
Как и в случае с большинством технологий без драйверов, которые так остро обсуждаются, нам придется подождать и посмотреть, как это получится. Но одно можно сказать наверняка: с течением времени у автономного вождения будет несколько уроков, которые могут научить нас, которые применимы далеко за пределами автомобильного мира - не только о беспорядке передачи контроля, но и о том, чтобы быть реалистичными в наших ожиданиях того, что алгоритмы могут сделать.
Если это сработает, нам придется скорректировать наш образ мышления. Нам нужно отбросить идею о том, что автомобили должны работать идеально каждый раз, и признать, что, хотя механический отказ может быть редким событием, алгоритмический отказ почти наверняка не будет.
Итак, зная, что ошибки неизбежны, зная, что, если мы продолжим, у нас нет другого выбора, кроме как принять неопределенность, загадки в мире автомобилей без водителя заставят нас решить, насколько хорошим должно быть что-то, прежде чем мы готовы его отпустить. на наших улицах. Это важный вопрос, и он применяется в других местах. Насколько хорошо это хорошо? После того, как вы построили некорректный алгоритм, который может что-то вычислить, вы должны это позволить?