Видеоролики, в которых автономные фургоны логистических гигантов нарушают все мыслимые правила, массово расходятся по китайским соцсетям, вызывая жесткую критику в адрес разработчиков ИИ-систем. На кадрах, набравших миллионы просмотров, машины без водителя прокладывают маршрут по свежеуложенному бетону, совершают рискованные маневры на обочинах и блокируют перекрестки.
Источники в отрасли связывают эти инциденты с фундаментальными проблемами в сенсорных системах и алгоритмах принятия решений. Большинство таких фургонов оснащены упрощенным набором датчиков: стереокамерами, коротко- и среднодистанционными радарами. Лидары, критически важные для построения точной 3D-карты окружения, часто отсутствуют из-за соображений экономии. В условиях сложной городской среды, например при попадании в «мертвую зону» GPS-навигации или при резком изменении дорожной обстановки (вроде внезапно появившегося участка влажного бетона), система может дать сбой.
Особое внимание экспертов привлек инцидент с мотоциклом. Предварительный анализ, основанный на схожих случаях, позволяет предположить, что алгоритм классификации объектов мог ошибочно идентифицировать двухколесное транспортное средство как «незначительное препятствие» или «мусор», не требующий полной остановки. Это указывает на серьезный изъян в системе приоритезации угроз.
ИИ обучен на миллионах сценариев, но когда он сталкивается с новой ситуацией — его «суждение» может привести к абсурдному и опасному маневру. Проблема усугубляется тем, что многие системы беспилотных фургонов до сих пор полагаются на карты HD-картографирования, которые быстро устаревают.
Реакция регуляторов уже последовала. После смертельного инцидента с седаном Xiaomi SU7 в провинции Аньхой, где система автономного вождения не справилась с управлением на скорости 110 км/ч, процесс сертификации для перехода на уровень «вождение без рук» был фактически заморожен. Национальное управление дорожного движения КНР готовит поправки, требующие от операторов беспилотного транспорта предоставлять не только отчеты о пробеге, но и полные логи всех критических событий и дисэнджментов (моментов, когда система просила вмешаться человека или теряла контроль).
Пока чиновники и инженеры ищут решения, публичное доверие к технологии тает. Эксперты считают, что видео с хаосом на дорогах — это не просто курьезный контент для соцсетей, а наглядный стресс-тест для всей индустрии, результат которого, пока далек от идеального.
Читайте также нашу статью о том, как в России разработали беспилотный трактор.