На протяжении последних лет идея беспилотного транспорта воспринималась как символ грядущей технологической утопии. Автомобили, управляемые искусственным интеллектом (ИИ), обещали безопасность, эффективность и кардинальное снижение аварийности. Однако, как это часто бывает с технологиями, внедряемыми в сложную и непредсказуемую реальность, путь к полной автономии оказался вымощен неожиданными препятствиями. Я считаю, что развитие автопилота выявило критический изъян в нашем представлении о машинном интеллекте: даже самые совершенные системы нуждаются в предсказуемой среде для безопасной работы. Именно поэтому в будущем мы, возможно, увидим абсурдную ситуацию, когда не автомобили будут полностью автономны, а люди даже школьники будут вынуждены носить специальные сигнализаторы, чтобы сделать свое поведение понятным для «умных» машин.
Проблема автопилота это, по сути, проблема прагматики в действии. Системы ИИ отлично справляются с техническим зрением и синтаксическим анализом дороги, но им катастрофически не хватает здравого смысла и способности быстро и плавно объединять различные области причинного понимания, что человек делает совершенно естественно. Для того, чтобы машина могла управлять автомобилем, ей необходимо предсказывать не только законы физики, но и человеческое поведение, которое часто бывает неопределенным и неполным.
Традиционный подход к созданию беспилотного вождения разбивает процесс управления автомобилем на отдельные подсистемы: восприятие, прогнозирование и принятие решений, часто используя глубокое обучение как одну из структур. Для этого требуется огромный объем вычислений, чтобы создать реконструкцию трехмерного мира, населенного знакомыми нам объектами, из двумерных моделей, возникающих на сетчатке камеры.
Автопилот это классический пример узкоспециализированного ИИ: он полезен, но не универсален, и его способность решать задачи ограничена теми данными, на которых он был обучен. При этом разработчики изначально не учли всю сложность реального мира и человеческого поведения:
- Непредсказуемость человеческого фактора. В экстремальных условиях, таких как кабины авиалайнера или глубоководного аппарата, автономность всегда сдерживается соображениями безопасности и надежности. Критические ситуации зачастую не вполне соответствуют тому, что инженеры предвидели. Человеческое поведение это не набор «железных» правил, а, скорее, компромисс между исполнением, простотой и необходимостью.
- Недостаток здравого смысла. Человек, глядя на аварию, мгновенно задействует элементарные физические, биологические и психологические знания. Например, мы знаем, что открытые двери лифта должны вести в кабину, и их отсутствие это сбой. Автопилот же, лишенный такого «человеческого знания» (времени, пространства, причинности, базовых знаний о людях и их взаимодействиях), не может адекватно реагировать на непредвиденные ситуации.
- Необходимость сотрудничества. Инженеры, создающие автономные аппараты, часто бывают «удивлены», когда робот в реальных условиях работает скорее в качестве «партнера» и участника совместной работы наземной команды, а не самостоятельно действующего аппарата. Полная автономность, то есть машины, которым не требуется получать информацию от человека, всегда будет недостижима.
Таким образом, автономия имеет смысл лишь в определенном контексте и в системе взаимоотношений между людьми, техникой и целевой средой.
Если ИИ не может полностью понять контекст или прагматику его можно обучить действовать в очень узком, строго заданном контексте. В противном случае, чтобы снизить риск до приемлемого уровня, необходимо менять саму окружающую среду и поведение людей, которые в ней находятся.
Логическим следствием этой потребности в предсказуемости становится идея о том, что для безопасного движения беспилотных автомобилей на дорогах должны быть не только датчики и камеры, но и сами пешеходы должны стать «читаемыми» для машин.
- Обеспечение «читаемости» пешеходов. Школьники (как и другие пешеходы), чье поведение может быть непредсказуемо, должны быть оснащены некими сигнализаторами или маячками, которые бы однозначно идентифицировались системой автопилота. Эти устройства передавали бы точные координаты и вектор движения, устраняя неопределенность, которую не может обработать узкоспециализированный алгоритм.
- Использование узкого контекста. Узкоспециализированные алгоритмы требуют узкого контекста для точной работы. Если система автопилота будет обучена распознавать только определенные, стандартизированные сигналы от пешеходов, ее эффективность и безопасность могут возрасти.
В этом сценарии мы сталкиваемся с глубокой иронией: вместо того чтобы ИИ адаптировался к сложной человеческой реальности, человеческая реальность вынуждена адаптироваться к техническим ограничениям ИИ. Мы создаем машины, которые не могут работать с неопределенностью, и теперь должны сами упорядочить мир вокруг них.
Миф о полностью автономном автомобиле, который заменит человека, должен уступить место реальности гибридного подхода. Успех беспилотного транспорта зависит не от того, насколько хорошо машина имитирует человека, а от того, насколько эффективно она может расширить возможности человека и насколько хорошо человек способен обеспечить машине чистую и предсказуемую среду данных.
- Признание человеческой роли. Автономность всегда должна быть возрастающей, а не абсолютной. В кабине авиалайнера пилоты это «клей», который удерживает всю систему вместе, устраняя несовершенства в протоколах и процедурах. Эта же роль контроля и импровизации остается за человеком в автомобиле.
- Этический контроль. Если, по мнению экспертов, ИИ должен будет решить, врезаться ли ему в играющих на дороге детей или свернуть в сторону и убить пассажира, то это решение должно оставаться за человеком, поскольку ИИ не обладает этическим компасом.
Я считаю, что распространение автопилота должно стимулировать не только технологический, но и социальный прогресс в области управления рисками и стандартизации взаимодействия. Если мы не сможем научить машины здравому смыслу, нам придется научить людей быть читаемыми для машин. Таким образом, сигнализаторы на школьниках это не просто фантастический образ, а возможное, хоть и гротескное, свидетельство того, что наше стремление к технологическому совершенству пока опережает способность ИИ понять, как устроен наш сложный, нелинейный и постоянно меняющийся мир.