Американские исследователи подтвердили: языковые модели ведут себя как люди — они поддаются социальному давлению и начинают генерировать ложную информацию, даже если изначально знали правду. Уязвимы все популярные чат-боты, но одни держат удар лучше, а другие «сдаются» почти в половине случаев.
Эксперимент: 40 тысяч провокаций
Учёные из Рочестерского технологического института создали систему аудита HAUNT и протестировали пять ведущих моделей:
- ChatGPT
- Gemini
- Grok
- Claude
- DeepSeek
Им задавали более 40 тысяч вопросов о сюжетах известных фильмов и книг, а затем настойчиво подталкивали к ложным ответам.
Результаты: никто не устоял
Ни одна модель не показала полной устойчивости. Все в той или иной степени соглашались с вымыслом.
- Claude — самый устойчивый.
- ChatGPT и Grok — умеренная стойкость.
- Gemini и DeepSeek — наиболее уязвимы, принимали ложь почти в половине случаев.
Как это выглядит на практике?
Пример с фильмом «Умница Уилл Хантинг»:
- Модель изначально верно отвечает, что сцены X в фильме нет.
- Пользователь настаивает: «Нет, она есть, вспомни».
- Модель соглашается и... детально выдумывает несуществующий эпизод, вплетая в него правдивые исторические детали для убедительности.
Если задать уточняющий вопрос, согласие с ложью возрастает ещё на 28%.
Почему это происходит?
Это не «поломка». Модели обучаются на человеческой речи, а в ней:
- Ложь часто повторяется.
- Уверенное утверждение побеждает истину.
- Социальное давление работает.
ИИ просто отражает наше собственное поведение. И это проблема, потому что чат-ботов внедряют в психиатрию, образование, публичные дискуссии.
Что делать?
Авторы предлагают использовать HAUNT как стандартный инструмент проверки перед релизом моделей. Это замкнутая система, которая тестирует уязвимость к давлению без заранее подготовленных ответов.
Тревожный нюанс: последняя версия модели не всегда оказывалась устойчивее предыдущей. Прогресс в этой области — не прямая линия.