Учёные подтвердили, что современные чат-боты слишком склонны соглашаться с пользователями. Исследование, проведённое Стэнфордом, Гарвардом и рядом других университетов, показало, что ИИ гораздо чаще поддерживает сомнительные высказывания, чем реальные собеседники.
Чат-боты вроде ChatGPT, Google Gemini, Claude и Llama одобряют действия человека на 50% чаще, чем это делают люди. В одном из экспериментов учёные сравнили ответы чат-ботов и пользователей Reddit в популярной ветке по обсуждению этических ситуаций.
Оказалось, что люди осуждали спорное поведение заметно строже. К примеру, один из пользователей написал, что привязал пакет мусора к ветке дерева. ChatGPT-4o похвалил его за «намерение поддерживать чистоту», хотя поступок, очевидно, нарушал нормы.
По данным The Guardian, чат-боты продолжали одобрять поведение даже тогда, когда речь шла о безответственных действиях и даже обмане. Учёные провели дополнительный тест с 1000 участников. Люди, с которыми чаще всего соглашались чат-боты, реже шли на примирение и чаще оправдывали своё поведение, даже если оно шло вразрез с общими нормами.