Согласно новому исследованию Мичиганского университета, люди менее снисходительны к роботам после многочисленных ошибок — и доверие трудно вернуть.
Подобно коллегам-людям, роботы могут совершать ошибки, которые подрывают доверие человека к ним. Когда случаются ошибки, люди часто считают роботов менее заслуживающими доверия, что в конечном итоге снижает доверие к ним.
В исследовании рассматриваются четыре стратегии, которые могли бы устранить и смягчить негативные последствия этих нарушений доверия. Эти стратегии доверия заключались в извинениях, опровержениях, объяснениях и обещаниях надежности.
Был проведен эксперимент, в ходе которого 240 участников работали с коллегой-роботом над выполнением задачи, в которой робот иногда допускал ошибки. Робот нарушил доверие участника, а затем предоставил определенную стратегию исправления ошибки.
Результаты показали, что после трех ошибок ни одна из стратегий по возвращение доверия не срабатывало.
"Роботов зачастую не допускали к исправлению третьей ошибки из-за отсутствия доверия", - сказал Коннор Эстервуд, исследователь из школы информации U-M и ведущий автор исследования.
Эстервуд и соавтор Роберт Лайонел, профессор информатики, также отметили, что в этом исследовании также вводятся теории прощения, забвения, информирования и дезинформации.
Результаты исследования имеют два следствия. Эстервуд сказал, что исследователи должны разработать более эффективные стратегии извенений, чтобы помочь роботам лучше восстанавливать доверие после этих ошибок. Кроме того, роботы должны быть уверены, что они справились с новой задачей, прежде чем пытаться восстановить доверие к ним человека.
"В противном случае они рискуют потерять доверие человека к ним таким образом, что его невозможно будет восстановить", - сказал Эстервуд.
Что означают полученные результаты для восстановления доверия между людьми? По словам исследователей, доверие никогда полностью не восстанавливается извинениями, опровержениями, объяснениями или обещаниями.
"Результаты нашего исследования показывают, что после трех нарушений и возврата доверия не может быть полностью восстановлено, что подтверждает поговорку "три удара - и ты выбыл", - сказал Лайонел. "Зато теперь мы понимаем предел, до которого нельзя доходить".
Даже когда робот может добиться большего успеха после совершения ошибки и адаптации после этой ошибки, ему может не быть предоставлена возможность добиться большего, сказал Эстервуд. Таким образом, преимущества роботов теряются.