Детектор чепухи: как мыслить скептически и опровергать чушь

У меня в гараже живёт огнедышащий дракон. Правда он невидим. И его невозможно потрогать. Или услышать. Более того, невозможно даже ощутить жар его огненного дыхания. Но поверьте мне на слово, он там есть.

Космолог Карл Саган придумал эту иллюстрацию, чтобы продемонстрировать тщетность нефальсифицируемых утверждений.

Его «детектор чепухи» это своего рода противоядие, набор — когнитивный инструментов, которые может использовать каждый из нас для развития критического мышления и борьбы с чепухой.

Детектор чепухи

Описанный ниже неформальный набор инструментов и методов мышления для оценки информации и выявления лжи был разработан покойным астрономом и популяризатором науки Карлом Саганом и опубликован в его книге «Мир, полный демонов: наука как свеча во тьме». В главе с метким названием «Изящное искусство обнаружения чепухи» Саган описывает их как научные инструменты, которые любой из нас может использовать для обнаружения лжи.

Для Карала Сагана скептическое мышление было бесценным инструментом, позволяющим «допрашивать тех, кто утверждает, что нечто истинно». И для этого он использовал ряд инструментов:

• Всегда требуйте независимое подтверждение «фактов».
• Участвуйте только в содержательных дебатах, в процессе которых будут представлены доказательства от сторонников всех точек зрения.
• Аргументы, основанные на авторитете, мало что значат — «авторитеты» совершали ошибки в прошлом и будут делать это в будущем. В науке же нет авторитетов; в лучшем случае есть эксперты.
• Выдвигайте несколько гипотез. Если есть что-то, требующее объяснения, подумайте о всех возможных способах это объяснить. Затем подумайте о тестах, с помощью которых вы могли бы опровергнуть каждую из имеющихся альтернатив. В итоге у вас останется гипотеза, которая не будет опровергнута, а значит именно она будет иметь гораздо больше шансов оказаться верной.
• Постарайтесь не привязываться слишком сильно к гипотезе только потому, что она ваша. Воспринимайте её, как промежуточную станцию на пути к знаниям. Спросите себя, почему вам нравится эта идея. Подумайте, сможете ли вы найти причины её отвергнуть.
• Количественная оценка. Если то, что вы объясняете, имеет некую меру, некую числовую величину, вам будет гораздо легче различать конкурирующие гипотезы. То, что неопределённо и качественно, допускает множество объяснений. Конечно, в многочисленных качественных вопросах, с которыми нам приходится сталкиваться, есть истины, которые нужно искать, но найти их сложнее.
• Если есть цепочка аргументов, то каждое её звено должно быть правдивым.
• Бритва Оккама. Самое простое объяснение часто оказывается самым точным.
• Всегда спрашивайте, может ли гипотеза быть, хотя бы в принципе, фальсифицирована. Непроверяемые, нефальсифицируемые утверждения не имеют большой ценности.

Детектор чепухи и логические заблуждения

По мнению Сагана значительная часть распознания лжи осуществляется с помощью отрицания. Именно поэтому вторая часть когнитивного инструментария Сагана включает распространённые примеры человеческой склонности к ошибкам:

• Апелляция к человеку — нападение на спорщика, а не на аргумент. Например: «преподобный доктор Смит — известный библейский фундаменталист, поэтому его возражения против эволюции не следует воспринимать всерьез».
• Аргумент от власти. Например, «президент Ричард Никсон должен быть переизбран, потому что у него есть секретный план по прекращению войны в Юго-Восточной Азии, но поскольку он секретный, рассказывать о нём нельзя». По итогу аргумент сводился к доверию к личности и как оказалось позже это было ошибкой.
• Аргумент, исходящий из неблагоприятных последствий. Например, обвиняемый в широко освещаемом судебном процессе по делу об убийстве человека, который сам спровоцировал на противоправные действия в свой адрес, должен быть признан виновным; в противном случае, если его оправдают - это будет выглядеть как поощрения убивать людей, которые ведут себя определённым образом.
• Обращение к невежеству — утверждение, что всё, что не было доказано как ложное, должно быть правдой, и наоборот. Например: «нет никаких убедительных доказательств того, что НЛО не посещали Землю; следовательно, НЛО существуют»
• Предостережение о будущем. Например, «мы должны ввести смертную казнь, чтобы предотвратить насильственные преступления». Но вот в чём вопрос: действительно ли уровень насильственных преступлений падает, когда вводится смертная казнь?
• Наблюдательный отбор, также называемый перечислением благоприятных обстоятельств, или, как описал его философ Фрэнсис Бэкон, подсчётом попаданий и забыванием промахов (например, школа хвастается своими победителями олимпиад, которых она вырастила, но молчит о количестве двоечников);
• Статистика малых чисел — близкая родственница наблюдательного отбор. Например, «Говорят, что каждый пятый человек — китаец. Как это возможно? Я знаю сотни людей, и ни один из них не китаец».
• Непоследовательность. Например, приписывать снижение продолжительности жизни (70-80 гг.) в бывшем Советском Союзе провалам коммунизма, но не приписывать высокий уровень детской смертности в США, капитализму.
• Post hoc, ergo propter hoc — «после этого, следовательно, из-за этого». Например, пока женщины не получили право голоса, не было ядерного оружия.
• Бессмысленный вопрос. Например, что происходит, когда непреодолимая сила встречает неподвижный объект?
• Ложная дихотомия — рассмотрение только двух крайностей в континууме промежуточных возможностей (например, «Конечно, вставай на его сторону; мой муж идеален, а я всегда неправа». Или: «Либо ты любишь свою страну, либо ненавидишь её».)
• Чучело — карикатурное представление позиции, чтобы её было легче атаковать. Например, «Ученые предполагают, что живые существа появились случайно» — формулировка, которая намеренно игнорирует дарвиновскую идею о том, что Природа набирает обороты, сохраняя то, что работает, и отбрасывая то, что не работает.

Заключительные мысли

Не все применения скептического мышления и разоблачения лжи столь же очевидны, как необнаружимый огнедышащий дракон в гараже какого-нибудь парня. Учитывая многочисленные препятствия на пути к становлению мастером мысли, Саган завершает свою главу предостережением.

Любой инструмент может быть использован не по назначению, как это происходит, когда заблуждения используются в качестве пропагандистских приемов. Набор для определения чепухи не является исключением. Однако при разумном использовании он может иметь решающее значение в мире — не в последнюю очередь в оценке наших собственных аргументов перед тем, как представить их другим.