В последние годы чат-боты на основе искусственного интеллекта стали неотъемлемой частью различных секторов, от обслуживания клиентов до финансового анализа. Однако их способность принимать решения вызывает много вопросов. Исследование, проведенное в бизнес-колледже Корнеллского университета, раскрывает уникальные аспекты принятия решений чат-ботами, подчеркивая, что они не всегда действуют рационально, как ожидалось. В этом контексте важно понять, как эти системы функционируют и какие предвзятости могут влиять на их действия.
В работе «Предоставляют ли чат-боты на основе ИИ взгляд со стороны?» команда исследователей, возглавляемая профессором Стивеном Шу, изучила, как искусственный интеллект принимает решения. В отличие от традиционных представлений о рациональности, результаты исследования показали, что ИИ-чат-боты, такие как ChatGPT и Google Bard, демонстрируют предвзятости, схожие с человеческими.
Одним из наиболее интересных аспектов исследования стало то, что чат-боты не только обладают вычислительной мощью, но и подвержены когнитивным искажениям. Например, ошибка конъюнкции, когда вероятность определенных событий воспринимается как более высокая, чем у общего, и предвзятость подтверждения, когда предпочитается информация, поддерживающая уже существующие убеждения, также проявляются в их решениях. Это открытие подчеркивает, что даже высокотехнологичные системы могут быть уязвимы к аналогичным ошибкам, которые делают люди.
Исследование также выявило, что чат-боты способны к более объективному анализу в некоторых ситуациях. Они лучше справляются с базовыми ставками и менее подвержены ошибкам, связанным с ограниченной памятью. Например, в отличие от людей, которые могут переоценивать ценность объектов, которыми они уже владеют, ИИ не проявляет этого эффекта владения. Это качество делает ИИ полезным инструментом в ситуациях, где требуется беспристрастный анализ.
Исследование охватывало различные платформы ИИ, включая Bing Chat AI и Ernie Bot, и оценивало их по 17 принципам из области поведенческой экономики. Один из самых неожиданных выводов заключался в том, что принятие решений чат-ботами не всегда отражает человеческую логику. Например, в условиях потерь люди часто склонны рисковать, чтобы минимизировать убытки, в то время как ИИ может предпочесть более определенные варианты, избегая риска.
Для бизнесменов, использующих чат-ботов, важно осознавать, как эти предвзятости могут влиять на их решения. Понимание того, когда ИИ предоставляет «взгляд изнутри», может помочь избежать чрезмерной уверенности и предвзятости подтверждения. Использование сильных сторон ИИ в анализе данных может улучшить процесс принятия решений, особенно в ситуациях, где человеческие ограничения могут привести к ошибкам.
С учетом того, что ИИ все больше проникает в различные сферы жизни, понимание его динамики принятия решений становится критически важным. Исследование Шу открывает новые горизонты для дальнейшего изучения возможностей и ограничений ИИ, подчеркивая его роль как дополнения к человеческому мышлению.