Автоматизированные транспортные средства становятся все более актуальными в современном мире. Они обещают повысить безопасность на дорогах, уменьшить заторы и сделать поездки более комфортными. Однако, несмотря на все преимущества, многие пассажиры не доверяют этим технологиям. Исследование, проведенное профессором Сынджуном Кимом из Института науки и технологий Кванджу, направлено на решение этой проблемы через объяснения работы автономных автомобилей.
Пассажиры часто испытывают неуверенность, когда садятся в автоматизированный транспорт. Они хотят понимать, как работает система, и какие решения она принимает в реальном времени. Чтобы устранить этот пробел, команда профессора Кима разработала мультимодальный набор данных, названный TimelyTale. Этот набор включает данные, полученные от датчиков, которые фиксируют реакции пассажиров в различных дорожных условиях.
Южнокорейские ученые провели эксперименты с использованием дополненной реальности, чтобы оценить, как различные визуальные объяснения влияют на восприятие безопасности и доверие. Они обнаружили, что простое отображение состояния транспортного средства значительно повышает уровень доверия пассажиров. Например, когда автомобиль сообщает о своем текущем состоянии, пассажиры чувствуют себя более защищенными и осведомленными о происходящем.
Кроме того, исследование выявило, что предоставление объяснений в моменты повышенного риска, например, при маневрах или изменении скорости, особенно важно. Пассажиры оценили, когда система делала акцент на потенциальных опасностях, что помогало им лучше понимать ситуацию на дороге. Это открытие привело к созданию модели, которая предсказывает наилучшее время для предоставления объяснений, основываясь на состоянии пассажиров и дорожной обстановке.
TimelyTale стал важным шагом в разработке объясняемых систем искусственного интеллекта (XAI), ориентированных на конечного пользователя. Ученые собрали экстероцептивные, проприоцептивные и интероцептивные данные, что позволило глубже понять, как пассажиры воспринимают информацию во время поездки. Например, экстероцептивные данные могут включать визуальные и звуковые сигналы, тогда как интероцептивные данные касаются ощущений, таких как напряжение или дискомфорт.
Концепция прерываемости также сыграла ключевую роль в исследовании. Она описывает, как пассажиры переключают внимание с не связанных с вождением задач на информацию, касающуюся управления автомобилем. Исследование показало, что в моменты, когда пассажиры чувствуют себя перегруженными, предоставление четких и кратких объяснений может сильно повысить их уверенность в системе.
