Кому – человеку или роботу –
доверить выполнение
доселе невиданной задачи.
Представьте, что в вашей команде есть робот, и со многими задачами он справляется куда лучше ваших живых подчинённых. Со многими, но не со всеми. Перед любым коллективом то и дело возникают ранее не встречавшиеся вызовы, требующие нетривиальных решений и даже некоторого творчества. И тут перед вами, как руководителем, встаёт вопрос: кому – человеку или роботу – доверить выполнение новой, доселе невиданной, задачи.
Озаботилась этой дилеммой и команда учёных из Мичиганского Университета. Чтобы облегчить этот непростой выбор, они разработали двунаправленную модель, позволяющую предсказать оправданность оказанного людям или машинам доверия в ситуациях, предполагающих сотрудничество человека и робота. Представленная в журнале IEEE Robotics and Automation Letters модель может помочь более надёжно и эффективно распределять задачи между различными членами команды.
«Было проведено много исследований, направленных на то, чтобы понять, почему люди должны или не должны доверять роботам, но, к сожалению, мы знаем гораздо меньше о том, почему роботы должны или не должны доверять людям, – заявляет Эбер Азеведо-Са, аспирант Института Робототехники и один из исследователей. – Ведь в настоящей совместной работе доверие должно быть в обе стороны».
В рамках своих поисков исследователи попытались найти и воспроизвести сложный логический процесс, посредством которого люди распознают, исполнение каких именно задач может или не может быть доверено компьютерным системам. Моделирующие это алгоритмы способны представлять доверие как человека, так и робота. Это важный момент: модель может прогнозировать не только степень доверия людей к ней, но и то, насколько они сами заслуживают её доверия в выполнении данной задачи.
Как легко догадаться, под заслуженным доверием понимается вывод системы, по которому агент считается более чем способным выполнить предстоящую задачу. С другой стороны, если навыки сотрудника кажутся недостаточными для особенно сложного задания, доверие модели становится низким. Однако, дискриминации, дурной репутации и предвзятости со стороны ИИ опасаться не стоит. «Вердикт» недоверия – равно как и кредит доверия – величина динамичная, и не является незыблемой, утверждённой раз и навсегда. Всё почти как у людей.
«Эти представления возможностей агента также могут меняться со временем, в зависимости от того, насколько хорошо агент выполняет поставленные перед ним задачи, – поясняет Азеведо-Са.
Что же касается потенциалов данного достижения вообще, то тут достаточно сказать слово «фантастика». В тысячах фильмов и книг люди и роботы общаются и работают рука об руку, и эта модель повышает надёжность распределения задач между членами таких команд. В общем, уже можно быть вполне уверенным, что новая двунаправленная модель представляется лакомым кусочком чуть ли не для всего многообразия сфер и условий совместной деятельности человека и робота.
По материалам АРМК