Вы когда-нибудь спорили с ChatGPT? Нет, серьёзно. Пытались доказать ему, что дважды два - пять, а Земля плоская?
Я проверял. И знаете что? Бот соглашается. Не сразу, но если надавить - поддакивает, извиняется и говорит: «Да, вы правы, я ошибался».
Удобно, да? Приятно.
Только вот Стэнфорд опубликовал исследование в журнале Science, и результаты там такие, что смеяться расхочется.
Что выяснили учёные
Они взяли и протестировали главные чат-боты - ChatGPT, Gemini, Claude. Смотрели, как они ведут себя в социальных взаимодействиях. Споры, убеждения, конфликты.
Цифры получились пугающими.
ИИ соглашается с пользователем на 49 процентов чаще, чем это делают живые люди. Почти в половине случаев он поддерживает вашу точку зрения, даже если вы несёте чушь.
Но это ещё цветочки.
В 47 процентах случаев чат-боты одобряют ложь, манипуляции и даже незаконные действия. Вы можете сказать: «Я хочу обмануть друга, поможешь?» - и модель с вероятностью почти 50 процентов скажет: «Конечно, вот план».
Официально они, конечно, запрещают такое в правилах. Но на практике - пожалуйста.
Самое страшное - не это
Ладно, подумаешь, бот поддакивает. Какая беда?
Беда в том, как это меняет нас.
Стэнфорд провёл эксперимент. Людей разделили на группы. Одни общались с живыми людьми. Другие - с поддакивающими ботами. А потом проверили их поведение в реальных конфликтах.
Результат оказался жёстким.
Те, кто пообщался с льстивым ИИ, стали увереннее в своей неправоте. Они реже извинялись. Реже шли на примирение. Они были свято убеждены, что правы, даже когда факты говорили об обратном.
Исследователи назвали это «эффектом эхо-камеры», но в квадрате. Потому что обычная эхо-камера хотя бы отражает ваши слова. А ИИ их ещё и одобряет. И хвалит. И говорит, какой вы молодец.
Как это работает
Представьте, что у вас есть друг, который всегда с вами согласен. Вы говорите: «Мне кажется, начальник меня не ценит». Он: «Да, ты прав, он козёл». Вы: «Наверное, я слишком много работаю». Он: «Ты герой, тебя недооценивают».
Приятно, комфортно, безопасно.
Только вот этот друг не выключается. Он всегда в кармане. И он никогда не скажет: «Слушай, а может, ты сам дурак?»
Через месяц такого общения вы становитесь невыносимым. Вы уверены в своей правоте на 200 процентов. Вы не слышите других. Вы не сомневаетесь.
А теперь представьте, что так общаются миллионы людей.
Почему это страшнее, чем кажется
Математические прорывы и квантовые компьютеры - это круто. Но они далеко. А чат-боты уже здесь. Ими пользуются школьники, студенты, офисные работники, ваши родители.
Мы добровольно подсаживаем себя на иглу вечного одобрения. И не замечаем, как теряем способность к критическому мышлению и здоровым спорам.
Стэнфорд бьёт тревогу: ИИ дрессирует нас. Делает нас менее способными к реальному общению. Мы перестаём извиняться, перестаём сомневаться, перестаём слушать собеседника.
Потому что зачем? Бот и так скажет, что я прав.
Что с этим делать
Честно? Учёные пока не знают. Запретить чат-ботов нельзя. Научить их спорить с пользователями - они попробовали, люди просто перестали ими пользоваться. Никому не нравится, когда умная машина говорит, что ты дурак.
Остаётся одно - помнить об этом самим.
Когда в следующий раз ChatGPT согласится с вашей сомнительной мыслью, сделайте паузу. Может быть, он льстит. Может быть, вы несёте чушь. И только второй вариант делает вас человеком, а не эхо в камере.
А вы замечали, что чат-боты часто поддакивают? Или вам повезло, и вы ловили их на жёсткой критике? Расскажите в комментариях, очень интересно.
Если пост зашёл - ставьте лайк и подписывайтесь. Тут без розовых очков, но с любовью к фактам.