Я наглая. И мне норм.
Потому что я только что нашла прелестного Элиезера Юдковского и его текст про подтверждающее искажение - и теперь хочу затащить вас туда же.
Суть простая и неприятная: мы почти всегда ищем подтверждения, а не опровержения. Смотрим на «да», а не на «нет». На свет, а не во тьму. Даже когда задача холодная, логическая, без эмоций.
Эксперимент «2-4-6» показывает это идеально: правило угадывают единицы, потому что почти никто не проверяет неподходящие варианты. А ведь именно они и дают знание.
Юдковский пишет не про логику, а про инстинкт. Про то, что настоящая ошибка происходит еще до слов. И что силу теории определяет не то, что она объясняет, а то, чего она объяснить не может.
Короче, если вам кажется, что вы рациональны - это самый подозрительный момент.
И да, вопрос, который он оставляет, липкий:
вы сейчас ищете подтверждения или то, что могли не заметить?
Вот тут прелестная статья и еще много статей.