Роботы способны выполнять любые работы точно и качественно - теперь им придется научиться объяснять людям свои действия и внушать доверие. По мере того, как ИИ учится поддерживать людей, назначать встречи, управлять транспортными средствами и диагностировать заболевания, автоматика перехватывает все больше процессов, традиционно исполняемых людьми.
Насыщение окружающей нас среды интеллектуальными алгоритмами повышает долю их влияния на наши жизни, а главное - ставит вопросы о доверии “дружественной” робототехнике. Речь идет, в частности, о развитии прозрачного и “заслуживающего доверия” XAI (объясняемого ИИ).
Ряд исследований указывает на то, что качественное объяснение роботами своих действий нередко формирует большее доверие со стороны людей, чем качественное выполнение соответствующих действий. Иными словами, разработчикам придется учитывать как производительность роботов, так и их “умение” отстаивать свою правду и объяснять свои поступки. Вероятнее всего, дальнейшее развитие клипового мышления людей приведет к тому, что человечество начнет принимать любые “слова” роботов за абсолютную истину и доверится наиболее приятным интерфейсам - даже в том случае, если последние будут опираться на людской самообман.
Оптимальная модель передачи информации от робота к человеку сочетает символический и тактильный компоненты. Первый отвечает за пошаговое объяснение действий робота, второй - за отображение “ощущений” машины. Передача текстовой информации о процессе работы вызывает гораздо меньшее доверие со стороны людей, чем пошаговое объяснение процесса, а банальные производительность и точность машины не говорят сами за себя и требуют дальнейших убеждений со стороны робота.
По мере роботизации значительной доли привычных для нас процессов и появления у людей роботизированных напарников, автоматике и ИИ придется завоевывать доверие и учиться служить людям.
++
По материалам: fastcompany.com