Почему даже Илон Маск был вынужден признать, что перемещаться по улицам сложно.
Автомобиль - это просто тихоходная ракета со стереосистемой.
Когда мы ведем машину, мы обычно думаем, что наша основная задача - переместиться из точки А в точку Б. Но в основном мы пытаемся не убить кого-то. Это работа первая. Все остальное вторично. Если бы вы сели в машину и не смогли бы добраться из точки А в точку Б, это не хорошо. Но если бы вы кого-то убили, это было бы значительно хуже.
Итак, 99% того, что вы делаете, когда вы за рулем автомобиля, пытаетесь не совершить убийство.
Об этом полезно помнить всякий раз, когда вы читаете о скором появлении «беспилотных автомобилей». Потому что, когда технические специалисты говорят вам, что строят беспилотный автомобиль, они как бы говорят, что по улицам будет летать самонаводящаяся ракета, которая сможет проноситься по городским улицам, никого не задев.
Руководители технологических компаний озадачены этим моментом. Им не нравится признавать поражение. Но автомобили и дороги - это среда, в которой они не могут халатно относится к работе и использовать Powerpoint, чтобы избавиться от ошибок - потому что на этот раз их ошибки наносят прямой вред людям с неумолимой физикой двухтонных несущихся кусков стали.
Недавно Илон Маск опубликовал следующий твит о FSD Telsa, их программном обеспечении для «полного самоуправления» .
Ха-ха, скоро выйдет бета-версия FSD 9, клянусь!
Обобщенное самоуправление - сложная проблема, поскольку требует решения значительной части реального ИИ. Не ожидал, что это будет так сложно, но оглядываясь назад, трудность очевидна. Нет ничего больше степеней свободы, чем реальность.
«Не ожидал, что это будет так сложно»: Есть эпитафия, которую можно высечь на надгробии ажиотажа в отношении беспилотных автомобилей.
Ажиотаж начался в 2005 году, когда команда Стэнфорда выиграла DARPA Grand Challenge, создав автомобиль, который проехал более 175 миль по пустыне. В течение следующего десятилетия компании от Google / Waymo до Uber и Tesla, а также автопроизводители старой школы вложили в это дело огромное количество исследований и разработок.
Шумиха разгорелась, потому что переворот в мировом транспорте принесет непомерную прибыль. Руководители Uber мечтали о роботах-такси без платных водителей; Автопроизводители представляли, как пассажиры отдыхают с Netflix, пока машина везет их на работу. «Если вы хорошо разбираетесь в робототехнике и не работаете над беспилотными автомобилями», как сказал мне в 2015 году руководитель крупной университетской лаборатории робототехники, «вы либо идиот, либо у вас есть страсть к чему-то. в противном случае, потому что самоуправляемые автомобили - это многомиллиардная отрасль ». Захватывающие статьи провозгласили, что беспилотные автомобили изменят все.
Маск умело преодолел эту волну ажиотажа. Как и многие автопроизводители, Tesla начала предлагать технологию помощи водителю - «автопилот», который помогал вам оставаться в полосе движения, скажем, - в 2015 году. Но Маск пошел гораздо дальше, пообещав, что беспилотные автомобили появятся в любой момент. Еще в 2016 году он утверждал, что в течении двух лет Тесла сможет проехать их Нью-Йорка в Лос-Анджелес.
Но вскоре мечты об автономном вождении рухнули на землю. Почему? Ну, программисты начали обнаруживать, что физический мир болезненно сложен. Они привыкли работать в Интернете, где биты обычно делают то, что им говорят. Теперь им пришлось беспокоиться об атомах : камеры и датчики засоряются дождем, снегом и грязью, пешеходы ведут себя непредсказуемо. И хотя инженеры-самоуправляющиеся инженеры сделали несколько действительно замечательных прорывов в распознавании изображений ИИ, они все еще не знают, как передать своему ИИ «здравый смысл», который люди используют для навигации по миру- наше общее ноу-хау, скажем, о поведении льда, собак, велосипедов, скейтбордистов и плавающих пластиковых пакетов. Искусственный интеллект с глубоким обучением может распознавать образы со скоростью света, но человеческое познание - это больше, чем простое распознавание образов. Чтобы ориентироваться в беспорядочной реальности городских улиц, мы также рассуждаем о вещах, используя наши обширные знания о вещах. Вот как мы справляемся с неожиданностями. Беспилотные автомобили пока не могут этого сделать. Никакой ИИ не может.
Это одна из причин, почему автономные системы травмировали и убивали людей - от автомобиля Uber, который врезался в пешехода, идущего на велосипеде через улицу, до тех пор, пока искусственный интеллект «автопилота» Tesla не смог увести машину от жестокой аварии. как показало недавнее расследование New York Times . В одном случае Tesla, управлявшая автопилотом, не смогла остановиться, прежде чем врезаться в грузовик, идущий впереди, в результате чего грузовик перевернулся, в результате чего был убит 15-летний мальчик, ехавший внутри.
В наши дни производители беспилотных автомобилей стали немного более осторожной командой. Глава Waymo сказал, что до полностью автономных автомобилей могут потребоваться «десятилетия» . Uber разгрузил подразделение по производству беспилотных автомобилей.
Маску потребовалось больше времени, чтобы признать реальность. Еще в январе он, затаив дыхание, заявлял, что к концу этого года Tesla выпустит программное обеспечение для самостоятельного вождения, «по крайней мере, на 100% лучше, чем человеческое». Его собственные инженеры пытались развеять эти заблуждения; в служебной записке властям Калифорнии они признали, что это даже отдаленно невозможно. Чтобы понять, насколько далека Tesla от этой цели, посмотрите это видео от марта 2021 года, в котором программа Tesla «полностью автономного вождения» пытается ориентироваться в Окленде, в которой автомобиль совершает слишком много необъяснимых и ужасающих движений, таких как поворот автомобиля. в неправильную полосу движения во время поворота ...
Так что я почувствовал легкую надежду, когда увидел твит Маска, в котором он признал, что черт возьми, полностью беспилотные автомобили - это супер сложно , кто знал? Возможно, он наконец понимает, что он не управляет компанией, производящей автомобили, а руководит компанией, производящей медленные ракеты.
Честно говоря, было бы хорошо, если бы он еще больше разогнал футуристическую шумиху. Вместо этого Tesla должна сосредоточиться на улучшении своего реально существующего ИИ, своей системы автопилота. В конце концов, общая идея использования компьютеров, чтобы помочь людям избежать столкновений, очень хороша; мы убиваем более 36 000 человек в год с помощью автомобилей , так что все, что снижает это число, того стоит. Одно исследование показало, что простая технология предотвращения столкновений, такая как предупреждение о столкновении сзади, снижает частоту ДТП примерно на 3,5%. Автопилот Теслы, кажется, предлагает аналогичные улучшения, хотя, как отмечает этот анализ Брэда Темплтона, трудно сказать наверняка .
Увы, поскольку Маск в течение многих лет напыщенно рекламировал цели Telsa по полностью автономному вождению, слишком многие пользователи уже рассматривают автопилот, как если бы он был беспилотным «решением», и выполняли трюки, иногда разрушительные, например, езду на заднем сиденье. убеждая программное обеспечение продолжать работу. Официально Tesla не одобряет такое идиотское использование своей технологии, но она могла бы сделать гораздо больше, чтобы помешать и воспрепятствовать этому.
