Нам довелось жить в эпоху, где взгляды на все — от общественного здоровья до политики — крайне поляризованы. В поисках истины мы обращаемся к интернету — и не находим там ее. Американские ученые нашли объяснение этому парадоксу.
В Университете Тулейн в Новом Орлеане провели исследование, с результатами которого можно ознакомиться на страницах Proceedings of the National Academy of Sciences. Оно выяснило, что пользователи сами себя заводят в цифровые эхо-камеры (термин для обозначения информационного тупика), тенденциозно формулируя свои запросы.
«Когда люди ищут информацию в интернете — будь то Google, ChatGPT или новые поисковики с искусственным интеллектом — они часто выбирают формулировки, отражающие их текущие убеждения (иногда даже не осознавая этого). Поскольку современные алгоритмы поиска настроены давать "самые релевантные" ответы на любой запрос, эти ответы могут подтверждать изначальную позицию пользователя. Из-за этого людям сложнее обнаружить альтернативные точки зрения», — объясняет ведущий автор исследования Юджина Лён, доцент Школы бизнеса Фримана при Тулейне.
В 21 эксперименте с участием почти 10 000 человек ученые проверили, как люди ищут информацию на крупных платформах. Независимо от темы — кофеин, ядерная энергетика, уровень преступности или COVID-19 — формулировки запросов чаще всего отражают их заранее сложившееся мнение.
Например, те, кто считает кофеин полезным, ищут «польза кофеина», а скептики — «вред кофеина для здоровья». Эти небольшие различия дают совершенно разные результаты, окончательно закрепляя исходные убеждения.
Эффект сохраняется, даже когда участники не стремятся подтвердить свою точку зрения. В нескольких экспериментах менее 10% участников намеренно подбирали запросы под свои взгляды, но их поведение все равно соответствовало убеждениям.
Проблема не только в том, как люди ищут, но и в том, как реагируют поисковики. Большинство из них настроены на релевантность, показывая результаты, максимально близкие к запросу. Но эта релевантность достигается в ущерб разнообразию мнений.
То же самое наблюдается и в ИИ-инструментах, таких как ChatGPT. Хотя ИИ-чат-боты стараются кратко осветить всю палитру мнений, пользователи все равно уходят с еще более уверенными убеждениями, соответствующими их исходному запросу.
Исследователи протестировали несколько способов побудить людей расширить кругозор. Простые напоминания о других точках зрения или дополнительные поиски почти не помогают, сработал только один метод сработал — изменение алгоритма.
Когда поисковики выдают более разнообразные результаты — независимо от узости запроса — люди чаще пересматривают свои взгляды. В одном эксперименте участники, увидевшие сбалансированные статьи о влиянии кофеина, стали придерживаться более умеренных позиций и были готовы изменить свое поведение.
Пользователи оценили разносторонние результаты как столь же полезные и релевантные, как и узконаправленные. Это говорит о том, что поисковые платформы могли бы бороться с поляризацией — если бы их дизайн это учитывал. Более того, большинство участников заинтересовались функцией «Широкий поиск» — кнопкой (концептуально противоположной нынешней «Мне повезет» в Google), которая намеренно показывала бы разные точки зрения.
«Поскольку ИИ и масштабный поиск стали частью повседневной жизни, внедрение подхода "широкого поиска" могло бы уменьшить эхо-камеры для миллионов (если не миллиардов) пользователей. Наше исследование показывает, как продуманный дизайн может склонить чашу весов в сторону более информированного и менее поляризованного общества», — заключила Лён.
Кошки на Луне: поиск с ИИ от Google обманывает пользователей