Как люди находят противоречивые и причинно-следственные объяснения для решений искусственного интеллекта в знакомых и незнакомых областях

В нескольких эмпирических исследованиях изучалось, как люди понимают контрафактные объяснения решений других людей, например: “если бы вы запросили меньшую сумму, ваша заявка на кредит была бы одобрена”. Тем не менее, многие современные системы поддержки принятия решений с использованием искусственного интеллекта (ИИ) полагаются на контрафактные объяснения для улучшения понимания и доверия людей. Мы сравнили контрафактные объяснения с причинно-следственными, то есть “поскольку вы запросили большую сумму, ваша заявка на кредит не была одобрена”, для решений ИИ в знакомой области (алкоголь и вождение автомобиля) и незнакомой (химическая безопасность) в четырех экспериментах (n = 731). Участникам были показаны входные данные для системы искусственного интеллекта, ее решения и объяснение каждого решения; они пытались предсказать решения искусственного интеллекта или принять свои собственные решения. Участники сочли, что контрафактные объяснения более полезны, чем причинно-следственные, но контрафактные объяснения не улучшили точность их прогнозов решений ИИ больше, чем причинно-следственные связи (Эксперимент 1). Однако контрафактные объяснения повысили точность собственных решений участников больше, чем причинно-следственные связи (эксперимент 2). Когда решения ИИ были правильными (эксперименты 1 и 2), участники считали объяснения более полезными и выносили более точные суждения в знакомой области, чем в незнакомой; но когда решения ИИ были неправильными, они считали объяснения менее полезными и выносили менее точные суждения в знакомой области, чем в незнакомой, независимо от того, предсказывали ли они решения ИИ (эксперимент 3a) или принимали свои собственные решения (эксперимент 3b). Результаты подтверждают предположение о том, что контрафактные данные предоставляют более богатую информацию, чем причинно-следственные связи, поскольку их ментальное представление включает в себя больше возможностей.