🚀 ИИ ломает модель “нейросеть пишет, а человек человек проверяет”
Новое исследование Wharton показывает неприятную вещь:
модель, на которой сейчас строится половина работы с ИИ, перестаёт работать.
Мы привыкли думать так:
нейросеть генерирует → человек проверяет → всё ок.
Но на практике происходит другое.
Учёные называют это “когнитивная капитуляция”.
Это момент, когда ты перестаёшь реально проверять ответ ИИ и даже не замечаешь этого.
Важно: это не то же самое, что “переложить задачу” (как с калькулятором).
- при обычном использовании ты понимаешь, что инструмент сделал работу
- при капитуляции мозг начинает воспринимать ответ ИИ как свой
Ты искренне думаешь, что сам всё проанализировал.
ИИ становится чем-то вроде третьей системы мышления.
Помимо:
- System 1 — быстрой интуиции
- System 2 — медленного анализа
появляется System 3 внешний интеллект.
И проблема в том, что мы начинаем доверять ему слишком сильно.
Цифры из исследования:
- 1372 участника
- почти 10 000 задач
- более чем в 50% случаев люди обращались к ИИ
Когда ИИ был прав:
- люди соглашались с ним в 92.7% случаев
Когда ИИ ошибался:
- всё равно соглашались в 79.8% случаев
Без ИИ:
- точность - 45.8%
С правильным ИИ:
- 71.0%
С неправильным ИИ:
- 31.5% (хуже, чем без него)
При этом уверенность людей росла на 11.7%,
даже когда ответы были неправильными.
Вот главный вывод:
человеческая проверка больше не является надёжной страховкой.
Люди не просто пропускают ошибки ИИ -
они становятся более уверенными в этих ошибках.
Ни давление по времени, ни мотивация, ни обратная связь
не убрали эффект полностью.
Лучше всего сопротивлялись люди с высоким уровнем мышления
и привычкой анализировать.
И это ключевой момент:
это не проблема лени.
Это особенность того, как устроен наш мозг.
ИИ не просто помогает думать.
Он начинает думать вместо нас.
papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646
