Вступительное слово
Мы с Вами ранее уже обсуждали, почему наш мозг иногда генерирует и часто верит в вещи, которые не соответствуют реальности, в том числе — почему мы подвержены магическому мышлению. Мы говорили о том, что это проявления ошибок мышления или "когнитивных ошибок", разбирали, что они из себя представляют и откуда берутся. Это не поломки, это "фичи", которые мы приобрели в ходе эволюции. Для первобытного человека такие "фичи" были полезными. Прошли тысячи лет, наш мозг мало поменялся с тех времен, а вот жизнь человека изменилась кардинально, поэтому в современных реалиях привычные ошибки мышления становятся нашими врагами. Для борьбы с когнитивными ошибками есть специальный инструмент — т.н. рациональное мышление. Оно — ключ к пониманию множества процессов, к видению вещей таковыми, какие они есть. Это инструмент, способный сделать жизнь лучше и проще. Ну и последнее, на чём мы закончили, это обсуждение того, что рациональность отнюдь не равна бесчувственности.
Данная статья — это продолжение статьи "Ошибки мышления. Цикл 1. Понятия", призвана познакомить Вас, дорогие читатели, с особенностями работы нашего мозга, научить видеть эти особенности, узнавать, может, даже исправлять (хотя это довольно трудно). Подобные знания могут помочь Вам по-другому взглянуть на мир, начать замечать то, чего ранее вы не замечали, и перестать верить в то, чего нет. Особенно такие навыки важны для ученых и, конечно, для врачей и фармацевтов в том числе!
Весь цикл по данной теме сделан на основе материалов книги «Рациональность: от ИИ до зомби», переведенных - русским сообществом LessWrong.
Искажение доступности
Наконец-то мы переходим непосредственно к видам искажений, обсудим, какими они могут быть. И первое эссе, если читать сборник по порядку, рассказывает нам об искажении "доступность".
Эвристика доступности — суждение о частоте или вероятности события по тому, насколько легко приходят на ум примеры данного события.
Т. е. человек считает событие более вероятностным, если у него подобные события на слуху или если он больше помнит о таких событиях, и он может легко вспомнить их и привести в пример! О чем тут можно написать для наглядности... Ну вот, скажем, недавние трагические события с российской альпинисткой, погибшей в Киргизии. Может быть, вы заметили, что после этого случая в новостях стали часто фигурировать эпизоды, связанные с уже другими альпинистами и трагическими исходами. Если бы вас спросили до этих событий, как часто в серьёзных горах погибают альпинисты, то, вероятно, большинство людей в среднем ответило бы, что нечасто, потому что не снимают репортажи на весь мир каждый раз, когда происходят такие случаи, и большинство людей об этом просто не знает, если специально не копали тему, конечно. Но после череды новостей на эту тему люди скажут, что да, вообще часто гибнут, потому что в их памяти будет информация, что вот было показано несколько случаев в различных горах, и в каждом случае кто-то погибал или калечился.
Нужно понимать, что и то, и другое — полностью неверные рассуждения, потому что давать оценку нужно на основе статистики. Чтобы дать правильный ответ, нужно выяснить, сколько людей выполняют восхождения ежегодно, сколько гибнет, и посчитать, какая часть гибнет... Но это ж надо разбираться, «руки марать», лень же, правда?
Откуда растут ноги у этой ошибки, спрашивается? А вот:
Избирательная отчётность — это один из основных источников искажений доступности. В родоплеменном окружении большая часть ваших знаний была основана на вашем личном опыте или же услышана напрямую от члена племени, который видел это. То есть между вами и фактом был максимум один слой избирательного сообщения. Сегодня, при помощи интернета, вы можете увидеть сообщения, которые проходят через шесть и более рук по пути к вам - шесть последовательных фильтров. По сравнению с нашими предками, мы живём в большем мире, в котором происходит больше событий, информации о которых к нам доходит меньше, поэтому эффект избирательности куда сильнее, что создает большие искажения доступности.
Вновь и вновь мы видим, что наш мозг привык мыслить так же, как и миллионы лет назад; он просто не заточен под современные реалии, связанные с многоуровневыми слоями информации, и поэтому сейчас, в информационную эпоху, нужно быть особенно аккуратным. Нужно учиться перерабатывать услышанную или увиденную информацию и понимать, что существует еще много всевозможных событий, о которых мы просто не знаем.
Нужно отчетливо понимать, что окружающая нас информация создает вокруг нас искаженное информационное поле, из которого часто трудно вырваться. Поэтому важно донести мысль, что за пределами этого поля есть и другое, и где истина — иногда нужно тщательно разбираться.
В этом плане нам, ученым, особенно грустно, мы можем так же легко читать новости, следить за привычными событиями, при этом мы еще находимся в поле научной информации, а это гигантский пласт, о котором вообще не знает обычный человек. Но меня радует, что сейчас прямо расцветает научная популяризация, которая позволяет хоть немного размыть эту жесткую границу.
Вот еще хороший пример от непосредственно Юдковского.
В реальной жизни едва ли вы встречались с Биллом Гейтсом. Однако благодаря избирательным сообщениям от СМИ, у вас может появиться искушение сравнивать ваш жизненный успех с его - и страдать, соответственно, от полученного результата. Объективная частота встречи таких людей как Билл Гейтс - 0.00000000015, но слышите вы о нем куда чаще. И наоборот, 19% планеты живёт менее чем на один доллар в день, но я сомневаюсь, что хотя бы одна пятая тех постов, что вы сегодня читали, пишут о них.
Тут, видимо, указывается на то, что таких людей, как Билл Гейтс, очень, очень мало, встретить их почти невозможно, с таким же жизненным путем, историей успеха или неуспеха, но его имя всегда на слуху, поэтому мы привыкли сравнивать себя или кого-то с ним, хотя найти подобного человека на планете почти нереально. Фактически, сравнить себя с этим человеком вообще неуместно.
Использование доступности, похоже, отвечает и за искажение абсурдности; события, которые никогда не происходили, нельзя вспомнить, вследствие чего их вероятность наступления начинает считаться нулевой.
Вообще классное искажение, оно постоянно везде встречается, и столько из-за него ошибок всяких... Даже на бытовом уровне — вы же не храните дома огнетушитель?! Казалось бы, пожара у вас никогда не было, зачем он нужен. При этом угроза пожара существует абсолютно в любых местах, в квартирах особенно, поэтому огнетушитель вполне может спасти вам жизнь. В данном случае происходит искажение в оценке угроз, которых давно не было или не было вовсе. То же самое и по поводу более чего-то более крупного. Люди, которые долго не сталкивались с каким-то событием, недооценивают его вероятность и не страхуются. Здесь сам Э. Юдковский приводит хороший пример из исследования, где показывают, что после постройки дамб наводнения случаются реже, и создаётся ложное ощущение безопасности, из-за чего общество снижает меры предосторожности от наводнений. В итоге, если случается редкое крупное наводнение, ущерб растёт.
Общество рассматривает регулярные небольшие угрозы так, словно таких угроз большего размера не существует, предпринимая меры безопасности против регулярных небольших наводнений, но не против редких крупных наводнений.
Память не всегда хороший проводник даже для вычисления вероятностей прошедших событий, не говоря уже о будущих.
В данном случае автор этим подчёркивает, что память и доступность примеров подвержены искажениям и не являются надёжными источниками информации, как бы странно это с непривычки не звучало.
Примеры из медицины и фармацевтики
Пример на "искажение доступности"
Тут, скорее, уместно привести пример-перевёртыш. Если спросить фармацевтов или даже врачей, а какие препараты, лежащие на полках, не обладают фармакологическим эффектом, то есть пустышки? Хороший специалист должен как минимум назвать гомеопатию, хотя будет и небольшой процент, который не приведёт такой пример. Но что по поводу других препаратов? Скорее всего, все остальные препараты будут названы как работающие лекарства, поскольку они прошли специальную регистрацию, чтобы официально продаваться, назначаются для лечения и присутствуют в клинических рекомендациях и, конечно, на страницах учебников. И надо понимать, что всё это в основном "обоснования", которые подкреплены "официальными документами", а это не основной критерий.
Но что это означает? Те, кто читал несколько наших разборов, уже, возможно, поняли, что в этой сфере всё непросто, и что не по всем препаратам есть полноценная научная база (исследования, РКИ и/или метаанализы), чтобы мы могли уверенно говорить о фармакологической эффективности. Дело в том, что не во всех ВУЗах вообще учат читать научную литературу, не везде по ней преподают. Учебники обновляются не так уж часто, если говорить о качественных, да и они в основном включают в себя фундаментальные знания, полученные уже очень давно. Поэтому студенты, задача которых — изучать известное и способы поиска нового, без возможности читать или слушать современные исследования, оказываются фактически запертыми в стенах своего регионального учебного заведения, который выводит их только на местечковые конференции и лекции. Такие специалисты обречены остаться внутри этого пузыря, без возможности смотреть шире, даже внутри своей области. А отсюда совсем нетривиальное следствие — для них ВСЕ препараты на полках — это работающие средства! А почему? Потому что так сказали в университете, и так принято считать. Потому что они же лежат на полках в аптеке! Даже гомеопатия, которую зачем-то добавили в новые клинические рекомендации, тоже скоро может занять место в умах провизоров и медиков, как группа работающих средств.
P.S. Много ли ответственности можно взвалить на образование? Но ведь фундаменталку тоже нужно постигать, а на глупости научные, на статистику, на критическое мышление времени не остаётся. А потом ни медикам, ни фармацевтам не хватает времени и опыта, чтобы самостоятельно разбираться в вопросах. План продаж, однако... Мы бы сказали, что нужен институт, который будет мостом между фундаментальным образованием и наукой. Вот это замечательная идея, о которой стоит задуматься. Но по факту сейчас таким мостом выступают сами учёные, создающие свои каналы, выступающие на специальных мероприятиях, читающие лекции и доклады. Чтобы их послушать, необходима мотивация, которой зачастую нет. (Да и откуда? Университетам совсем не с руки признавать, что их курсы могут быть недостаточны и нужно самостоятельно копать дальше...) А кроме того, о таких публикациях и мероприятиях ещё ведь знать надо. Да и проходят они в основном в столицах...
Пример на "искажение абсурдности"
Если проводить аналогию с затоплением и дамбами, то самое очевидное, что всплывает, это талидомидовая трагедия, которая, собственно, и была одной из крупнейших в истории фармацевтики; после неё были пересмотрены правила одобрения препаратов для оборота. Вот только произошло это уже давно, в 1956-1961 годах. Через ощутимое время в Америке произошёл первый опиоидный кризис 90-х, что привело к очередным трагедиям (об этом подробнее в нашей статье). Причем ничего не закончено, поскольку возникают всё новые волны зависимостей и смертей.
Да, в целом, построенная система обеспечивает фильтр для предотвращения попадания откровенно опасных веществ на рынок, но время от времени, когда спустя десятки лет боль от трагедии утихает, происходит ослабление контроля, причем как со стороны регулятора, так и со стороны тех, кто участвует в создании препаратов. При этом масштабы таких событий стали менее массовыми, потому что построенная система работает, а просадки в ней происходят из-за "человеческого фактора".
Вот список некоторых крупных событий, которые мне помогла составить perplexity (да здравствует ИИ! 😄 Однако все ссылки перепроверены редакцией вручную!), которые происходили в мире фармы и имели самые большие последствия (см. скриншоты, к статье также будет приложен файл таблицы).
Понятно, что это не все случаи и события, понятно, что там имеет место быть человеческая халатность, жажда заработать деньги, нежелание проводить длительные проверки безопасности и т. д. Всё это верно, и каждый раз после событий в систему добавлялись новые правила! И вот тут как раз и видна обсуждаемая нами ошибка. Меры принимаются после случая, а не заранее. (Гром не грянет — мужик не перекрестится... — прим. ред.)
К сожалению, история вновь повторяется; например, у нас (в России) очень слаб контроль за БАДами (да-да, снова о них, можете закатить глаза). А тем временем прокатываются волны массовых отравлений такими продуктами [1,2], и, видимо, мы опять ждем чего-то грандиозного, когда отравится действительно много людей, прежде чем БАДы уже будут проверять независимо, прежде чем выпускать на рынок...
Ссылки на литературу:
[1] https://www.cspi.org/cspi-news/fda-update-these-supplements-contain-toxic-yellow-oleander
[2] Charen, E.; Harbord, N. Toxicity of Herbs, Vitamins, and Supplements. Advances in Chronic Kidney Disease 2020, 27, 67–71, doi:10.1053/j.ackd.2019.08.003.
Часть «Карта и территория», глава «Предсказуемо неправы», подглава «Доступность».
Конъюнктивное заблуждение
Если Вас спросить, что более вероятно: "Мышка не справилась с тестом в эксперименте, потому что тест слишком сложный и потому что мышка была сильно напугана", или только утверждение, что "мышка не справилась с тестом, потому что была напугана" — как вы ответите?
Или попроще: вероятность какого события выше — что "завтра утром будет пасмурно и температура воздуха будет ниже десяти градусов", или что "завтра утром температура воздуха будет ниже десяти градусов"?
Юдковский приводит тут другой пример, но, надеюсь, что мои не хуже. Что же вы выберите?
Большинство людей выбирают тот вариант, где описано больше деталей (в обоих примерах это первое утверждение), потому что такой расклад кажется нам, человекам, более правдоподобным. Однако, на деле, это неверно! Вероятность наступления двух событий одновременно намного ниже, чем одного отдельного.
Поэтому и говорят: добавив деталей, можно сделать сценарий звучащим более правдоподобно, несмотря на то что события, в совокупности, станут менее вероятными.
Так мы умело обманываем наш мозг (а иногда очень умело его обманывают те, кому это очень выгодно), добавляя к истории больше подробностей, ложно создавая сюжет, который нам кажется более убедительным, чем более простое описание ситуации.
Таким образом, "подтверждающие" детали, становясь частью художественной правдоподобности, на самом деле являются обременением для принятия решения.
Как же тогда следует рассуждать, чтобы не попасться на крючок?
...каждая деталь должна ощущаться как бремя.
Всякий раз, оценивая ситуацию, Вам следует считать дополнительные детали обузой, а не фактором, который, как вам кажется, облегчает задачу. Рассматривайте детали по отдельности, а не изучайте их в совокупности с другими.
Вам следует распутывать детали. Следует рассматривать их отдельно и вопрошать: «Откуда мы знаем эту деталь?». Кто-то набрасывает картину падения человечества в нанотехнологическое столкновение, где Китай отказывается подчиняться международному соглашению о контроле, за этим следует гонка вооружений… Подождите-ка… Откуда вы знаете, что это будет Китай? Это хрустальный шар в вашем кармане или вы просто рады быть футуристом? Откуда взялись все эти детали? Откуда взялась эта конкретная деталь?
Ибо сказано:
Если можешь облегчить бремя своё, сделай это.
Нет такой соломинки, что бессильна сломать твой хребет.
Часть «Карта и территория», глава «Предсказуемо неправы», подглава «Обременительные детали».
Ошибка планирования
Международный Аэропорт Денвера открылся на 16 месяцев позже срока и с превышением бюджета на 2 млрд $1.
Еврофайтер Тайфун, совместный оборонный проект нескольких европейских стран, был завершён с отставанием в 54 месяца, итоговая стоимость составила 19 млрд $ вместо изначальных 7 млрд $.
Сиднейский Оперный Театр, возможно, самый легендарный по превышению начальной стоимости проект. Изначально, оценка предполагала завершение в 1967 за 7 млн $, но в итоге был завершен в 1973 за 102 млн $2.
Следующая ошибка мышления, о которой пойдет повествование, наверное, самая узнаваемая по сравнению с другими. Встречается она вообще на каждом углу, и имя ей — «ошибка планирования».
Ошибка планирования - это когда люди думают, что могут планировать, ха, ха.
В чем же причины возникновения данных ошибок? Юдковский называет следующие:
— Излишний оптимизм и самоуверенность. Иногда всем нам не помешает капля сомнений.
— Неоцененность реальности. План формируется как сценарий самого удачного стечения обстоятельств.
Как оказалось, реальность преподносит обстоятельства хуже, чем «самое неудачное стечение обстоятельств», какое мы обычно воображаем.
—Использование принципа «взгляд изнутри», который "недостаточно гасит оптимизм".
По сути, всё это описание одной причины, просто с разных сторон.
Юдковский приводит в пример результаты одного исследования, которые прекраснейшим образом демонстрируют, как именно люди проваливаются в планировании.
В работе студентов попросили оценить сроки сдачи своих академических проектов с 50%, 75%, 99% вероятностью. Вот что вышло в итоге:
• 13% испытуемых уложились в срок, оцененный с 50% вероятностью успеха.
• 19% уложились в срок, оцененный в 75% вероятности успеха.
• и лишь 45% (менее половины!) уложились в срок, оцененный в 99% вероятности успеха.
Ну, т.е. меньше половины смогло уложиться в срок, в который они максимально уверенно планировали уложиться.
Ну хорошо, про ошибку поняли. Планируют люди довольно фигово, но как с этим справиться? Как ни странно, способ есть, правда, для совсем сложного планирования, типа строительства Олимпийской деревни в Сочи, оно плохо применимо!
Общий совет таков: меньше акцента на «взгляд изнутри», т. е. на детали непосредственно события — место, время, каким образом это реализовать, какие инструменты и ресурсы, а больше акцент на «взгляд снаружи», т. е. на внешние факторы, и абсолютно неожиданно (Вы просто даже вообразить не можете!) обращать внимание на предыдущий такой же или схожий опыт, даже не обязательно свой личный!
У людей есть склонность генерировать предсказания, думая о конкретных, уникальных деталях задания, первыми приходящих на ум. И создавать сценарии того, как они будут выполнять задание - это мы, обычно, и называем планированием. Когда вы желаете, чтобы что-то было сделано, вам необходимо спланировать где, когда, и как; подумать сколько времени и ресурсов это потребует; визуализировать все шаги от начала до успешного завершения. Все это - «взгляд изнутри», и он не принимает в расчет неожиданные задержки и непредвиденные катастрофы.
Взгляд снаружи - когда вы специально избегаете мыслей о конкретных, уникальных деталях проекта, и просто вопрошаете, сколько времени заняло завершение похожего проекта в прошлом. Это кажется контринтуитивным, ведь взгляд изнутри позволяет заметить больше деталей. Мысль об аккуратно сотканном предсказании, в котором была учтена вся доступная информация, выдающем лучшие результаты, искушает.
Юдковский приводит в пример исследования, которые показали, что люди, которые меньше знали детали или основывались на предыдущем опыте, лучше справлялись с точностью планирования. Я часто слышу, как звучит следующее: "Запланируй заранее, и все!". Но нет, ранее планирование никак не помогает избежать ошибки, но теперь вы знаете точно, что является выходом из ситуации.
Похоже, есть относительно надежный способ исправить ошибку планирования, если вам предстоит делать что-то похожее на то, что вы делали ранее. Просто задайтесь вопросом о том, сколько такие проекты длились в прошлом, игнорируя детали. Еще лучше: посоветуйтесь с опытным посторонним о том, сколько времени заняло выполнение похожих проектов в прошлом.
Часть «Карта и территория», глава «Предсказуемо неправы», подглава «Ошибка планирования».
Иллюзия прозрачности: почему вас не понимают
Ошибка, которая преследует нас всегда и везде. Ошибка, которая часто сеет раздор между людьми. Особенно тяжело, когда люди вообще не догадываются о подобной ошибке, и тогда все вокруг "тупые", кроме них, конечно же!
Речь идет об ошибке "иллюзия прозрачности". Как вы думаете, насколько хорошо вы понимаете окружающих? А они вас? Все мы говорим словами, значение которых знает каждый, но вот смысл фраз из этих слов может быть очень разным, и будет зависеть от того, что в них вкладывает говорящий.
Типичный диалог:
—Как дела?
—Нормально!
Знакомая ситуация? Казалось бы, слово "нормально" означает, что всё в порядке, не нужно беспокоиться. Однако, как оказывается, это может означать и "всё плохо, но не хочу признаваться", "НЕ нормально" и т. д. И всегда тому, кто говорит, кажется очевидным, что собеседник должен угадать, понять, что скрывается за этим "нормально". И как же обидно становится, когда собеседник кивает и продолжает разговор, ведь он и не подозревает, что должен о чём-то переживать.
В любых ситуациях, когда приходится тесно взаимодействовать с людьми, проявляются такие ситуации, например на работе:
Начальник: Подготовьте все срочные документы на завтра!
Сотрудник: Хорошо.
(следующий день)
Начальник: Я же просил подготовить отчет, а его среди документов нету!
Сотрудник: Отчет еще не готов, вы же просили только срочные документы!
Начальник: Ну очевидно же, что отчет тоже является срочным!
Самые типичные примеры обычно — это случаи в семье между мужем и женой либо между девушкой и парнем. Мемы на эту тему постоянно заполоняют пространство Интернета.
Муж приходит с работы. Дома жена.
Жена: Как же я сегодня устала с детьми!
Муж (обнимает): Понимаю!
Через час жена пошла помыла посуду, муж отдыхает.
Жена (раздраженно): Спасибо, что помог!
Муж: Но ты не просила помочь!
К чему это всё? Да к тому, что нам, людям, кажется, что наши мысли, намерения и эмоциональный подтекст, вкладываемые в слова, «очевидны» для собеседника, хотя другой видит только слова и — иногда— ограниченный контекст.
Существует когнитивное искажение «знание задним числом». Оно проявляется так: люди, знающие, чем закончилась ситуация, верят, что исход можно было легко предсказать заранее. Когда мы знаем результат, мы переосмысливаем ситуацию с учетом этого результата. Даже если мы знаем об этом искажении, мы не можем воспринимать ситуацию так, как её воспринимает человек, который не знает того, что знаем мы.
С этим тесно связана иллюзия прозрачности: мы всегда знаем, что означают наши слова, и ожидаем, что остальные тоже это знают. Мы правильно понимаем смысл, читая написанное нами, обладая знаниями о том, что мы действительно имели в виду. Этим смыслом сложно поделиться с кем-то, кто будет руководствоваться лишь словами.
Т.е. имеется в виду, что нам свойственно переоценивать то, насколько хорошо нас понимают, и недооценивать, насколько двусмысленно может звучать для собеседника то, что мы пытаемся донести. Возникает иллюзия, что сказанное нами вполне "прозрачно", что же тут не понять? Мы считаем, что в сказанном всё очевидно, и вот эта вот очевидность, она часто выпрыгивает в других местах. Рассказываете вы кому-то об уже прошедших событиях, где вы с треском провалились, а они вам заявляют: «Ну так надо было по-другому сделать, всё же очевидно, что надо было сделать вот так, а ты, растяпа, сделал так!» Так вот, это ОЧЕВИДНО таковым не является, легко судить только постфактум, когда уже понятно, в чём была ошибка. Если поставить другого человека в эту же ситуацию, не рассказывая о неудачном опыте, то ему, как правило, будет совсем НЕ очевидно!
По ссылке Вы можете ознакомиться с исследованиями по этому поводу, которые приводит Юдковский. Если обобщать — то да, большинство людей верят, что излагают свои мысли ясно, и что большая часть слушателей их понимает, хотя на деле это совсем не так.
Поэтому, когда вас не поймут, вначале задумайтесь, может, дело в том, как вы изложили мысль, а не в том, что перед вами глупый человек? Если хотите, чтобы вас понимали, то излагайте всё прямо, без намеков, и как можно более понятно. Лучше уточняйте или переспрашивайте, как именно вас поняли.
Особенно это важно в научной сфере, где рассказ о научном открытии, о результатах исследования, об идеях и планировании эксперимента — это особое искусство, требующее особого внимания и тщательности! Недопонимания между учеными могут привести к серьезным последствиям, которые могут стоить очень больших денег и многих лет жизни самих ученых.
Так что не стоит винить тех, кто не понял твои очевидные слова, в разговоре или письменно. Есть шанс, что твои слова более туманны, чем кажутся.
Часть «Карта и территория», глава «Предсказуемо неправы», подглава «Иллюзия прозрачности: почему вас не понимают».
Ожидая короткие понятийные расстояния
Следующая ошибка, о которой пойдет речь, наверное, самая сложная (на субъективный взгляд). И, возможно, сложнее тех, что мы обсуждали раньше. Эта ошибка частично связана с иллюзией прозрачности, но имеет немного иной фундамент.
Юдковский не приводит конкретного названия данной ошибки, поэтому ее можно коротко описать следующим образом: людям свойственно сильно недооценивать «понятийное расстояние» между собой и собеседником, то есть количество шагов-объяснений, которое нужно, чтобы другой понял мысль.
Откуда растут ноги? Как и любые другие ошибки, эта также возникает из-за того, что наш мозг был сформирован тогда же, когда и появился вид Homo sapiens. С тех пор прошло около 300 тысяч лет, а наш мозг никак кардинально не изменился. Он все еще формируется так, словно мы живем в те времена, зато очень сильно поменялся наш образ жизни.
Когда-то люди жили в очень небольших племенах, где любая полученная новая информация быстро достигала всех членов сообщества. Поэтому все люди в одном таком племени говорили на "одном языке", т. е. почти все важные понятия и термины были общими. Стало быть, в таком идеальном обществе, где все друг друга легко понимают, чтобы донести нечто новое, обычно требовалось максимум одного нового шага-объяснения. Поэтому мозг эволюционно привык, что почти всё, что говорят другие, может быть понято сразу или после одного простого пояснения.
Эволюция приспособила homo sapiens к жизни в маленьких (не более 200 человек) племенах охотников и собирателей, не знающих письменности. В этих условиях — в так называемой «среде эволюционной адаптации» — всё накопленное знание сохранялось в памяти и передавалось устно.
В таком мире все фундаментальные знания — всеобщи. Любая информация либо совсем личная, либо общеизвестна, без исключений.
В среде эволюционной адаптации было очень маловероятным оказаться от кого-то на расстоянии, большем чем один понятийный шаг, одно логическое умозаключение. Когда ты обнаруживал новый оазис, тебе не надо было рассказывать своим соплеменникам, что такое оазис, или почему стоит пить воду, или как перемещать ноги для того, чтобы ходить. Где находится оазис, знаешь только ты; это знание приватно. Но у всех остальных уже есть предпосылки для того, чтобы понять описание оазиса, все уже владеют понятиями, необходимыми, чтобы думать о воде; это знание универсально. В тех редких случаях, когда какие-то объяснения были необходимы, тебе почти никогда не нужно было разъяснять свои понятия. В самом худшем случае, нужно было рассказать об одном новом понятии, но не о двух (или больше) одновременно.
Однако в современном мире человека, как вы уже догадались, много сфер и дисциплин, таких как наука, медицина, инженерное искусство, которые содержат в себе большое количество понятий. Это значит, что чтобы студенту понять профессора, ему нужно пройти десятки, а то и сотни понятийных шагов, чтобы начать понимать более опытного ученого и разговаривать с ним на одном языке.
И на этой почве возникают типичные ошибки, когда ученый-популяризатор пытается что-то пояснить для обывателя, да даже иногда на конференциях, когда ученый читает доклад для других ученых, возникают проблемы с пониманием из-за разницы во владении понятиями и их количеством.
И я думаю, что этот эффект (вкупе с иллюзией прозрачности и самоякорением(English)) объясняет многие аспекты тех легендарных затруднений, с которыми сталкиваются учёные, пытающиеся общаться с обывателями (или даже просто с учёными из других областей науки). Я часто вижу следующую картину: объяснение не удаётся. Популяризатор науки делает один шаг назад, хотя правильным было бы сделать два, или даже больше шагов назад. Слушатель же, в свою очередь, считает, что всё должно стать понятным через один шаг, хотя на самом деле для этого необходимо больше шагов. Обе стороны ведут себя так, словно понятийное расстояние между ними очень мало; будто бы всеобщие знания очень близки к любому новому знанию.
Получается, в данном случае ученому для понятного пояснения требуется сделать усилие и отступить назад, что очень непросто с высоты опыта и знаний. Нужно резко понизить свой уровень и представить себя начинающим аспирантом или только пришедшим в ВУЗ студентом. Даже самые простые понятия, которые кажутся ну куда проще, должны восприниматься как нечто темное и неизвестное, они должны разжевываться так же, как и более сложные. Слушателям, в свою очередь, как ни странно, тоже нужно поработать. Быть готовым к очень длинным пояснениям, без которых не будет достигнуто общего понимания темы, или позже самим ну хоть что-то почитать, если рассказывающий шагнул недостаточно далеко назад.
При всем при этом, нужно иметь терпение, иначе потом возникают такие ситуации, что обыватели не хотят ничего слушать, состоящего из более чем 10 слов, а затем начинают считать ученых или любых других специалистов из любой другой области скучными, занудными или, как сейчас модно говорить, "душными". Это несправедливо и обидно. Если вы хотите что-то послушать или узнать, будьте готовы слушать до конца. Многие области знания невозможно объяснить в трех словах, невозможно!
В свою очередь, за специалистами или учеными тоже числятся грехи. Часто мы начинаем думать, что слушатели недостаточно напряглись или поленились. Возникает грустное ощущение, что вокруг одни глупцы, не способные или не желающие постичь изложенной мысли, а особые персонажи начинают считать обывателей тупыми, испытывают к ним злость и раздражение.
Знание о такой ошибке должно помочь хотя бы тем, чтобы обе стороны стали лучше понимать друг друга и уважать: одним непросто отступить назад до одного уровня понятий, а другим не хватает терпения выслушать длинную череду пояснений.
Хорошее выступление должно проложить понятийный путь, начинающийся от позиций, которые аудитория уже знает или принимает. Если ты задашь недостаточную глубину рекурсии, то в итоге ты будешь просто разговаривать сам с собой.
Каждое новое заявление должно очевидным образом опираться на аргументы, сказанные тобой ранее и принятые аудиторией. Как только эта цепочка нарушается, аудитория начинает считать тебя жертвой секты.
И не давай слушателям намёков на то, что ты считаешь их отставшими от тебя на дюжину понятийных шагов, или то, что ты думаешь, что располагаешь какими-то особыми неизвестными им фундаментальными знаниями. Слушатели не знают о том, что эволюционная психология предсказывает существование дефекта мышления, ведущего к недооценке понятийных расстояний. Они не думают, что у пробок на дороге общения есть какая-то особенная причина. Поэтому их просто будет раздражать твоя снисходительность.
И если ты считаешь, что можешь кратко объяснить понятие «систематической недооценки понятийных расстояний», быстренько бросив пару слов, то вынужден тебя огорчить…
Часть «Карта и территория», глава «Предсказуемо неправы», подглава «Ожидая короткие понятийные расстояния».
Линза, видящая свои изъяны
Вот последняя мысль, которую дает Юдковский в заключительной части своего эссе «Предсказуемо неправы»: подводя итоги ранее сказанному, Юдковский говорит, что наш мозг — это своего рода линза, через которую мы воспринимаем мир. Сегодня мы отлично понимаем процессы, которые позволяют нам воспринимать окружающую действительность. В первую очередь, это биологические процессы — зрение, слух, осязание, проприоцепция (ощущение тела в пространстве) и т. д. Именно эти механизмы дают нам первичные сведения о мире.
Свет покидает Солнце, падает на шнурки и отражается от них; часть фотонов проходит сквозь зрачок и попадает на сетчатку; энергия фотонов запускает волну нервных импульсов; нервные импульсы доходят до зрительной коры, где на основе оптической информации строится трёхмерная модель, распознанная как развязанные шнурки; и теперь ты убеждён в том, что твои шнурки и в самом деле развязаны.
Эти механизмы уже давно не являются тайным знанием, с помощью науки мы их хорошо изучили. Именно это понимание того, как мы видим мир, позволяет нам осознать, как формируются те или иные убеждения.
Вот секрет осознанной рациональности: в этом процессе передачи сцепленности нет ничего магического, и его можно понять. Ты можешь понять, как ты видишь свои шнурки. Ты можешь думать о том, какие когнитивные процессы создают убеждения, отражающие реальность, и какие когнитивные процессы — нет.
Автор убеждает нас, что в искусстве рационального мышления нет ничего сверхъестественного, оно не за гранью человеческого понимания. Оно строится на наших знаниях о том, как мозг работает. Не нужно воспринимать его как нечто магическое. Его реально освоить любому.
Для человека — это уникальная особенность: понимать то, как работают процессы мозга. Например, животные не способны осознавать, что у них есть зрение, что у них есть нейроны... Они хорошо пользуются зрением и мозгом, но не осознают, как это работает. Поэтому, в отличие от нас, животные не способны отлавливать и исправлять собственные когнитивные ошибки.
Мыши видят, но они не знают, что у них есть зрительная кора, и поэтому они не могут систематически бороться с оптическими иллюзиями. Мышь живёт в ментальном мире, где есть кошки, дыры, сыр и мышеловки, — но нет мышиных мозгов. Их камеры не могут сфотографировать линзы собственного объектива. Но люди могут посмотреть на причудливую картину и осознать, что часть того, что они видят, является линзами их объектива. Ты не обязан всегда верить своим глазам, но ты обязан понимать, что у тебя есть глаза — у тебя должны быть отдельные участки памяти для карты и для местности, для чувств и реальности. Если ты считаешь этот навык тривиальным, вспомни, насколько он редок в царстве животных.
Поясним: мы должны понимать, что мозг и глаза — это линза. А раз есть линза, значит, есть и искажение. Раз есть искажение, то мы можем его поправить, чтобы видеть картину мира более четко. Как ни странно, один из лучших инструментов для "корректировки линзы" — это наука. Да-да, именно для того она и существует, если вы еще не поняли! Она не является какой-то сектой или магическим, непонятным и странным миром только для ученых. Нет! Наука создавалась для всех, чтобы отполировать зеркало разума.
Вся идея Науки — это, в сущности, поиск наиболее надёжного способа отразить в зеркале разума содержимое целого мира. Мыши никогда не смогли бы изобрести такую идею. Размышляя о всех вопросах вроде «мы проводим повторяемые эксперименты, чтобы фальсифицировать теорию», мы можем разобраться, почему именно наука работает. Наука — это не отдельный магистерий, далёкий от реальной жизни и непонятный для простых смертных... Наука — это постижимый и объективно существующий процесс, который связывает содержимое мозга с реальностью.
Почему вообще так важно "подкручивать" работу линзы? Хотя бы потому, что она может легко формировать у нас ложные убеждения, например, под воздействием сильных эмоций (страх, радость).
Если Вас спросить: «Верите ли вы в то, что ядерная война случится в течение ближайших 20 лет?», что Вы ответите на этот вопрос? Скорее всего, вы скажете, что война не случится, потому что на самом деле мысли о таком событии — это очень страшно. Нам хочется верить, что этого не произойдет, хотя на самом деле чувство надежды, которое формирует такое мнение, не может дать нам реальную оценку того, случится война или нет. Здесь страх незаметно подменяет аргументы, и в итоге мы не получаем ни реального знания, ни аргументированных предположений. Эмоции искажают восприятие реальности.
Задуматься о том, какие убеждения сделают тебя счастливым — посмотреть внутрь, а не наружу. Ответ может сказать что-то новое о твоей психике, но это не свидетельство, сцепленное с окружением. Я не имею ничего против счастья, но счастье должно порождаться картиной мира, а не преступным использованием ментальных карандашей в целях сокрытия правды.
Если ты можешь это увидеть — если ты можешь заметить, что надежда слишком сильно влияет на твои размышления первого уровня; если ты можешь увидеть свой мозг как рисующий карты механизм, в котором есть недочёты — то ты можешь что-нибудь исправить. Мозг — дефектная линза, не совсем точно показывающая действительность. Это верно в отношении мозга как мыши, так и человека. Но мозг человека — это линза, могущая понять свои изъяны, могущая увидеть свои систематические ошибки, свои искажения, а после применить к ним исправления второго уровня. Этот факт делает дефектную линзу намного могущественней на практике. Делает её не совершенной, но намного более эффективной.
Да, наш мозг не совершенен, но, зная об этом, мы способны на это повлиять и исправить, сделав нашу жизнь лучше, в том числе в области медицины и фармакологии, в космонавтике и других значимых сферах жизни.
Часть «Карта и территория», глава «Предсказуемо неправы», подглава «Линза, видящая свои изъяны».