Исследователи разработали ИИ-агента, который на разговорном языке объясняет каждый свой поступок. Они воспользовались классической аркадой Frogger: в ней действия, которые совершает игрок, непосредственным образом влияют на последующие решения.
Сперва исследователи посадили за игру живых людей: они объясняли свои действия вслух, а искусственный интеллект на этих данных обучался. Затем им показали, как играет ИИ, и предложили три разных объяснения: написанное человеком, написанное машиной и сгенерированное случайным образом. Зрителям нужно было выбрать самое правдоподобное и полезное. Они отдали предпочтение человеческому объяснению, а машинное оказалось на втором месте.
Затем свои действия комментировал только ИИ. А участники должны были выбрать, какие комментарии им нравятся больше — короткие и простые либо длинные и подробные. Оказалось, что чем больше контекста даёт машина, тем людям лучше.
Это отличная демонстрация того, что ждёт нас в будущем, когда искусственный интеллект внедрят практически в каждую сферу повседневной жизни. Человеку будет намного комфортнее, если, сев в самоуправляемый автомобиль, он сможет спросить, почему машина решила поехать в том или ином направлении или свернула на ту или иную полосу.
Источник: Georgia Tech
Подписывайтесь на наш канал, чтобы читать интересные IT-новости!