Введение
Начать я позволю с себе с небольшой жалобы на то, что я крайне разочарована, что в школах (хорошо, пусть даже «в подавляющем большинстве школ») не учат основам научной методологии как отдельной дисциплине. Меня тоже не учили, а когда я пришла в университет и «пошла в науку» на первом курсе, то для меня это стало настоящим вызовом. Ведь мое мышление было обыденным, поэтому меня ломало, ломался мой привычный мир, моё привычное видение существования реальности.
Было тяжело. Каждый новый уровень все больше отдалял меня от людей, друзей, близких, выстраивая невидимую стену. Конечно, это не было заметно для них, но это было сильно заметно для меня. Очередной раз на дружеской встрече в моей голове мелькнули мысли: «Почему мы вообще это обсуждаем? Ведь это такая глупость… Почему мы говорим о каких-то глупых и неинтересных вещах? Неужели моих друзей волнуют такие нелепости?». Надеюсь, если мои друзья прочитают это, они простят.
Сейчас я подросла и уже умею (хочу в это верить, и замечаю это, научилась замечать) вливаться в общество людей, которые «не варятся в науке», хотя с некоторыми и сейчас бывает очень тяжело временами. По крайней мере, в настоящее время на встречу к близким и друзьям я снова иду с радостью, и с желанием поговорить о любой ерунде. Но в первое время, когда я постигала основы критического мышления, мой привычный мир разрушался, и приходилось заново выстраивать новый. А я ведь уже была практически взрослым человеком. В 19 лет перестраивание мира – это не то же самое, что в 6 лет или 10 лет (когда самое время его выстраивать и перестраивать по необходимости). А в более взрослом возрасте это сделать еще сложнее.
Я считаю, что это большое — в ряду многих других— упущение программы образования, ведь нам необходимо выпускать в мир людей, умеющих мыслить рационально, — просто затем, чтобы самолёты летали, а лекарства на самом деле помогали.
Вот что о методах рационального мышления пишет Элиезер Юдковский:
«Есть один ценный способ рассуждений, которому пока не учат в школах. Ему систематически пока вообще нигде не учат. Он просто проявляется сам у тех, кто вырос на книгах вроде «Вы, конечно, шутите, мистер Фейнман» — или у тех, кому в университете повезло с хорошим преподавателем.
Чаще всего этот способ мышления практикуется в науке и проведении экспериментов. Просто идёте и смотрите на Вселенную, а не выдумываете. И говорите «Ой!» и отказываетесь от плохой теории, если экспериментом она не подтверждается.
Но такой склад ума применяется и шире…Его можно использовать в реальной жизни, хотя тут есть свои нюансы. Если вы не можете сказать «Ой!» и отказаться от нерабочей теории — вы будете постоянно стрелять себе в ногу. Вы обречены перезаряжать оружие и спускать курок. Вы знаете таких людей. И иногда вы, даже не задумываясь об этом, действуете в точности как они. Хорошо бы существовал способ мышления, благодаря которому можно перестать так делать.
В современном обществе так мало учат навыкам … принятия решений, так мало учат математике и другим наукам, на которых всё это основано!»
Часть «Карта и территория», глава Предисловие.
Ошибки мышления. Что это такое?
Итак, что же такое ошибки мышления или когнитивные искажения?
Первое определение звучит следующим образом.
«Когнитивное искажение — систематическая ошибка нашего мышления (в противоположность случайной ошибке, например, вызванной простым невежеством)… Когнитивные искажения портят … наши убеждения, и убеждения менее точно отражают факты; такие искажения вмешиваются в процесс принятия решений, и мы достигаем наших целей с меньшей надёжностью…».
Второе определение:
«Когнитивное искажение — это проторенная дорожка для ваших внутренних шаблонов мысли, по которой нельзя прийти к истине (или другой потенциально достижимой цели — например, счастью). Как и статистические погрешности, когнитивные искажения могут искривлять наше видение реальности, в большинстве случаев их нельзя исправить, просто собрав побольше данных, и их эффекты со временем суммируются. Но когда неточный инструмент, который нужно откалибровать, это вы сами — избавиться от искажений будет уникальным вызовом».
Если очень просто, то когнитивное искажение — что-то вроде некорректного способа решения задачи, некорректного способа объяснения и интерпретации полученной извне информации. Но откуда эти ошибки взялись и для чего?
«В процессе эволюции наши мозги для решения задач научились применять когнитивные эвристики — грубые методы, которые позволяют получить ответ быстро. В большинстве случаев этот ответ оказывается правильным, но иногда — нет. Когнитивные искажения возникают в тех случаях, когда эти эвристики достаточно последовательно порождают ярко выраженные ошибки».
Да, действительно, мы приобрели эти шаблоны мышления в результате эволюции для успешной адаптации к тем условиям, в которых жили наши предки — первобытные люди. С тех пор за миллионы лет наш мозг почти никак не изменился, зато изменилась жизнь человека, из-за чего когнитивные искажения могут играть более существенную роль, чем ранее.
Хороший пример, который мне очень нравится, приводит Дробышевский в видео из поста про антропологию (пост в нашем Telegram-канале). Перескажу своими словами, стараясь не терять суть: представьте, что вы охотник и ловите оленя в лесу. Вы случайно наступаете на ветку, и олень, услышав хруст, убегает. Теперь вы знаете правило: не наступай на ветку, иначе олень сбежит, и вы и ваше маленькое племя останетесь голодными. Эту мудрость вы передаете всей своей группе, поскольку вы заинтересованы в их выживании, рассказываете своим детям, а те верят, поскольку они тоже заинтересованы в успешной ловле пищи.
Теперь вы снова вышли на охоту и оказались под деревом с бананами в тот момент, когда олень что-то услышал и сбежал. Почему сбежал олень, неизвестно, но вы закономерно делаете вывод, что не нужно ходить под деревом с бананом, чтобы не спугнуть оленя. Так появляется когнитивное искажение – и, разумеется, передается другим.
В одном случае суждение было верным и полезным, а во втором — неверным, но не принципиальным для вашего выживания, поскольку вряд ли сильно повлияет на успех охоты; общая сумма результатов положительна; поэтому такой способ мышления (использование быстрых эвристик — простых правил для принятия решений) эволюционно закрепляется, становясь вполне полезным инструментом выживания. Однако в современных реалиях такие рассуждения уже могут быть намного опаснее и могут нанести существенный вред. Так, например, эвристика вроде «лучше всегда делать то, что говорит представитель власти» приводит к успешным телефонным мошенничествам.
Часть «Карта и территория», глава Искажения: введение.
Что такое рациональность?
Рациональность, о чем это?
«Грубо говоря, идея в том, чтобы действовать наилучшим возможным образом. Рациональный человек, даже если он не знаком с темой, формирует максимально близкие к реальности убеждения на основе имеющихся у него свидетельств. Неважно, насколько плохо идут дела у рационального человека — он делает наилучший возможный выбор и таким образом повышает свои шансы на успех…..Рациональность начинается с вопроса «каков мир на самом деле и как он работает».
Рациональные способы мышления позволяют сэкономить время на принятие каких-либо решений, а также сократить количество неверных попыток. Собственно, жизнь и так одна, если постоянно наступать на одни и те же грабли множество раз, вряд ли возможно достигнуть успеха.
«Рациональность — это и знание о том, когда не нужно слишком долго размышлять».
Юдковский выделяет два типа рациональности:
1. Эпистемическую рациональность, то есть систематическое улучшение точности своих убеждений. Эпистемическая рациональность посвящена построению карт, точно отображающих реальность.
2. Инструментальную рациональность, то есть систематическое достижение желаемых результатов …Инструментальная рациональность посвящена управлению реальностью. Вы делаете будущее таким, каким вам хочется. Инструментальная рациональность — это искусство выбрать действия, которые приведут к последствиям, стоящим выше в вашей шкале предпочтений.
Как итог:
Рациональность — это искусство одновременно формировать истинные убеждения и принимать выигрышные решения.
Для освоения рационального мышления необходимо освоение ряда специальных матметодов.
Теория вероятностей — это набор законов, лежащих в основе рациональных убеждений. Аналогично, теория принятия решений — это набор правил для выбора рациональных действий, и её можно применять независимо от того, о каких целях и каких действиях идёт речь.
Байесовская статистика и теория игр – наиболее часто встречающиеся формальные инструменты рациональности, тогда как знакомство с основными работами в области когнитивных ошибок – основа для самонаблюдения и исправления собственных ошибок мышления.
Собственно, пока вы НЕ владеете данными инструментами, нельзя сказать, что вы владеете рациональным мышлением. Не стоит путать понятие «рациональное мышление» с другими понятиями – хаоса и так более чем достаточно. “Рационально не пойти сегодня на работу, потому что у меня температура”. В данном случае правильно не пойти на работу, зачем мучиться и заражать других? И слово «рационально» тут совсем не к месту! “Рационально пить молоко детям”. Снова нет, пить молоко полезно. Слово «рационально» тут употребляется совсем не в исходном значении. Поэтому, если вы считали до этого момента, что всегда руководствовались по жизни рациональностью, то, возможно, вы просто неправильно понимали значение этого слова. «Рациональное мышление» – это прикладная дисциплина (область знания), которая не ограничивается словесными рассуждениями на тему, какой дорогой сегодня лучше пойти домой, хотя, разумеется, и не исключает их.
И всё же будьте с этим словом осторожны и не используйте его напрасно. Вы ничего не заработаете, просто произнося его вслух. «Слишком много рассуждающий о пути не достигнет просветления».
Возможно, вы не согласитесь и скажете, что это слишком нудно. А может быть, заявите, что интуиция — это лучше, чем обсуждаемый способ мышления. Да, с помощью интуиции можно принимать быстрые несложные решения, от которых вряд ли будет зависеть Ваша жизнь. Вот только не всегда задачу можно решить в одно действие. Бывают и такие, над которыми стоит тщательно подумать.
Проектировать ракету, пользуясь исключительно интуицией, — безумие. Выполнять проверку самолета перед вылетом, доверяя шестому чувству… Кто бы хотел на таком полетать? Есть ощущение, что к нам заглянул Капитан Очевидность, не правда ли? Зря! Поверить яркой рекламе лекарства — событие того же самого порядка, и это происходит тысячами раз каждый день в любом крупном городе. На основе поверхностного сходства описаний симптомов и эффективных манипулятивных рекламных инструментов мозгу комфортно сделать вывод, что «найдено то, что нужно». И не задуматься о том, а откуда известно, что сообщения, на основе которых уже принято решение, вообще верны? Очень легко поверить, что «эта задача решается в один шаг, и можно просто довериться интуиции». Этот блок когнитивной психологии прекрасно изложен в книге Даниэля Канемана «Думай медленно… решай быстро».
Часть «Карта и территория», глава Предсказуемо неправы, подглава Что такое рациональность.
Рациональные люди бесчувственны. Стереотипы, которые неверны.
Есть распространённое мнение, что рациональность противостоит эмоциям: все оттенки грусти и все оттенки радости автоматически нелогичны лишь потому, что это всего лишь чувства. Что удивительно, я не нашел ни одной теоремы в теории вероятностей, которая бы доказывала, что я должен быть холодным и бесчувственным
Я склонна согласиться, что, становясь рационалистом, Вы можете в чём-то усилить свои эмоции в восприятии мира, а в чём-то ослабить. Вы явно перестанете удивляться каким-то низкоуровневым вещам, таким как «сбывшийся» прогноз гороскопа, поскольку будете понимать, что это не чудо, не магия или мистика. При этом Вас начнут всерьёз волновать другие вещи, более масштабные, например, как осуществить полёт до Марса, как успеть создать лекарство от старения, пока сам не состарился, и как доносить до других, что это важно. Вы можете об этом переживать, чуть ли не плача от всеобщего безразличия к данной проблеме, и при этом можете порадоваться возможности обратиться к большой аудитории, заинтересовавшейся Вашим научно-популярным контентом, призванным чуть отодвинуть границу мракобесия в вашей области, как, например, учёный Александр Панчин.
Да, факты часто расстраивают, и, тренируясь в рациональном мышлении, Вы уже не сможете отрицать их, решив верить в счастливую ложь. Но кто сказал, что истина — это всегда что-то грустное?
Усвоив правило «То, что может быть разрушено правдой, должно быть разрушено», я также понял, что «То, что питается правдой, должно расцветать». Когда случается что-то хорошее, я счастлив... Когда случается что-то ужасное, я не бегу от печали, ища ложные утешения и фальшивые плюсы. Я представляю прошлое и будущее человечества, десятки миллиардов смертей на протяжении всей истории, горе и страх, поиск ответов, дрожащие руки, тянущиеся вверх из рек крови, то, чем мы можем стать в тот день, когда звёзды станут нашими городами, вся эта тьма и весь этот свет; я знаю, что я никогда не смогу полностью это понять, и я не знаю слов, которыми можно было бы передать эти мысли…. Но теперь я знаю, что в чувствах нет ничего иррационального.
Э.Юдковский.
Часть «Карта и территория», глава Предсказуемо неправы, подглава Мне сегодня рационально.
Истина
Следующее, над чем размышляет Элиезер Юдковский, автор книги «Рациональность: от ИИ до зомби», это понятие "истина". Ведь именно истину не дают нам увидеть ошибки мышления, и именно к ней нас приводит рациональность (ну или должна приводить – прим. ред.).
Желание сделать своё мировоззрение рациональным вырастает именно из стремления к истине...
Но зачем вообще нужно её искать, эту самую истину? Многие люди нормально обходятся и без неё, ходят к тарологам, лечатся БАДами и ничего, живут - таки.
Любопытство — первая причина искать истину...
Любопытство является эмоцией, свойственной человеку и другим высшим животным. Оно очень важно для развития, особенно в раннем возрасте, оно помогает нам постигать мир. Оно неотрывно связано с поиском и освоением новой информации (т. н. исследовательское поведение, но не только оно). Это является важной чертой нашего мозга, настолько важной, что за нахождение и узнавание нового мозг поощряет нас положительными эмоциями за счет выброса особых нейромедиаторов в специализированных структурах головного мозга (например, дофамина). Это "сделано" эволюцией для того, чтобы у человека или животного были стимулы к такому типу поведения, к узнаванию мира, поскольку это важно для адаптации и выживания. Такое поведение — важнейший компонент нашей психической деятельности [1].
Что ещё заставляет искать истину, не считая любопытства? Желание достигнуть какой-то цели в реальном мире...
Это может быть как что-то совсем повседневное, как купить, например, конкретные кроссовки. Вы же для этого не пойдёте в продуктовый или к гадалке. Скорее всего, вы будете искать в спортивных магазинах или предварительно на сайтах таких магазинов. Или это может быть что-то более масштабное, как создание и отправка космического телескопа в космос. Для этого Вам придется изучить физику, астрономию, поступить в университет, долго проработать в испытательных лабораториях. Но тут у меня, как у учёного, возникает вопрос, который часто непонятен другим людям. Нам что, правда нужна причина, чтобы искать истину?
Поиск истины в прагматичных целях выглядит неблагородным — разве истина не ценна сама по себе? — но такие поиски очень важны, поскольку они создают внешний критерий проверки. Упавший на землю самолёт или отсутствие молока в магазине говорят о том, что ты сделал что-то неправильно. Ты получаешь обратную связь и можешь понять, какие методы мышления работают, а какие нет. Чистое любопытство прекрасно, но стоит найти ответ — оно исчезает вместе с поразительной загадкой, и ничто уже не заставляет проверять ответы. Любопытство — древняя эмоция, появившаяся задолго до древних греков, руководившая ещё предками их предков. Но легенды о богах и героях удовлетворяют любопытство ничуть не хуже результатов научных экспериментов, и очень долго никто не видел в этом ничего плохого. Лишь наблюдение того, что «некоторые методы мышления отыскивают суждения, позволяющие управлять миром», уверенно направило человечество на путь науки.
Действительно, любопытство можно утолить, просто послушав сплетни от подруги на кухне, а за хлебом и кроссовками можно ходить всегда в одни и те же места, без поисков нового. Удобно. Работает.
Третья причина поиска истины, которая приходит мне в голову — честь. Вера в то, что отыскание истины благородно, нравственно и важно. Такой идеал приписывает истине внутреннюю ценность, но он не похож на любопытство. Мысль «Интересно, что за занавесом» ощущается не так, как мысль «Мой долг — заглянуть за занавес». Паладину истины легче верить в то, что за занавес должен заглянуть кто-то ещё, и легче осуждать кого-то за добровольное закрывание глаз. Из этих соображений я называю «честью» убеждение в том, что истина имеет практическую ценность для общества и поэтому её следует искать всем. Приоритеты паладина истины в отношении белых пятен карты определяются не полезностью и не интересностью, но важностью; кроме того, в одних ситуациях долг искать истину зовёт сильнее, чем в других.
Но, к сожалению, в современном мире не всем нужна истина, и не все хотят её слышать. Это то, с чем так сложно смириться людям, которые постоянно её ищут с широко открытыми глазами (натыкаясь при этом на разнообразные собственные ошибки и приучаясь обращаться с ними — прим. ред.). Если врач не будет искать истинную причину болезни, то что станет с больным? Если фармаколог не будет искать настоящее лекарство, то сможет ли он кого-то спасти? Проще верить во что-то более простое, хотя и ложное, чем в сложные научные факты. Проще убедить себя, что найденная молекула — новое прорывное лекарство, и подкрутить данные, нежели реально разбираться. Да и сроки отчётности по гранту выходят...
И, к несчастью, это проблема во всей системе, потому как готовность и искать истину, и принимать её должна взращиваться с малых лет. Но и, как правильно подчеркивает Юдковский, невозможно поиск истины сделать моральным долгом. Это приведет к другим нежелательным последствиям. У человека должна вспыхивать собственная внутренняя мотивация, жажда искать и находить. Однако никто не ответит вам на вопрос, как воспитать такого человека. Поэтому таких искателей сейчас днем с огнем не сыщешь.
Но совершенно точно можно сказать, что обучение методам рационального мышления еще со школьной скамьи позволит ребенку в будущем, если загорится в нём тот желанный огонь, тянуться к истине, а то и достигать её.
Некоторые методы мышления помогают найти истину лучше, чем другие — это т.н. приёмы рациональности. Часть приёмов рациональности говорит о преодолении определённого класса препятствий, когнитивных искажений.
Часть «Карта и территория», глава Предсказуемо неправы, подглава Зачем нужна истина?
Искажения
Вот мы уже и подобрались к важным моментам, а именно к такому явлению, как "искажение".
Искажения — определённый вид препятствий на пути к истине (то есть их характер как препятствие мешает найти истину, но при этом существует множество других препятствий, искажениями не являющихся).
Опустим те моменты, что некоторые личности не стремятся к истине или не знают, как ее выделить из бесконечного потока информации. Так или иначе, нам важно узнавать реальность таковой, какая она есть. И что же нам может мешать?
По какой-то причине мы желаем попасть к истине, и по пути нам встречаются различные препятствия. Эти препятствия не сильно отличаются друг от друга: например, есть препятствия, имеющие отношение к недостатку вычислительных мощностей или к дороговизне информации. Большая группа препятствий разделяет общие черты — образует кластер в пространстве препятствий-на-пути-к-истине — и члены этого кластера называются искажениями.
Действительно, в современном мире мы сильно шагнули вперед. Технологии развились настолько, что мы можем видеть и изучать то, к чему раньше даже не могли подступиться. Когда-то мы ничего не знали о бактериях, вирусах и собственных клетках, пока не был изобретен микроскоп. Но даже во второй век бурного технологического развития, мы все еще не можем понять, что такое темная материя, не вполне понимаем многие процессы нашего мозга и т.д., просто потому, что текущие инструменты имеют свои границы, дальше которых мы пока не способны заглянуть.
Можно назвать такой тип препятствий — внешними. Но кроме них существуют и внутренние, зашитые в нас самих.
Можно заметить, что мы называем «искажениями» те препятствия на пути к истине, которые созданы ни дороговизной информации, ни недостатком вычислительных мощностей, но формой ментального оборудования.
Что же такое это "ментальное оборудование"? Мы уже об этом упоминали ранее, особенно хорошо это было показано в беседе Дробышевского в проекте Меньшовой "Самопознание". Ментальное оборудование — это способы мышления, которые мы приобрели в ходе эволюции. Эти способы были закреплены, поскольку именно они обеспечили наше выживание. Например, строй мышления, позволяющий выигрывать политические споры, важные для существования группы. Или же закрепленное доверие к тому, что говорят другие, что позволяло приобретать союзников и друзей, поддерживая мирное сосуществование в группе людей. Люди с таким мышлением были более успешны, чаще выживали и имели больше потомства, передавая приобретенные навыки мышления, как генетически, так и социокультурным способом (то бишь воспитанием и собственным примером).
Но, к сожалению, данные способы мышления совсем не настроены на выяснение истины. Даже сегодня можно прекрасно видеть, что в политике выигрывают самые хитрые, да и ложь там более чем приоритетный инструмент. Также и с доверием: если раньше оно (доверие) было жизненно необходимо, особенно когда люди жили небольшими сообществами, где врать было просто смертельно опасно, то сейчас, в эпоху "постправды", это уже не так. При этом, закрепленное эволюцией доверие — удобный ресурс для жуликов всех мастей.
Итак, наш способ мышления использует ряд алгоритмов, которые чаще всего работают (т.е. позволяют нам достичь цели или успеха в обществе), но иногда вызывают повторяющиеся (систематические) ошибки, потому что мы живем уже совсем в другое время.
Таким образом, из-за формы нашего мышления, особенностей его работы, могут возникать искажения, которые и становятся уже источником когнитивных ошибок в наших последующих суждениях.
Искажения порождаются не из-за каких-то индивидуальных черт человека или культурных особенностей, а общими для всех людей механизмами мышления. Ошибки, вызванные неправильными убеждениями или моральными установками, к искажениям не относятся, поскольку их возможно выявить и исправить. Но вот источником убеждений и моральных установок искажения вполне могут быть!
Кроме того, искажения — это особенности работы именно "ментального оборудования" мозга, а не недостаток знаний или следствие повреждений мозга.
Возможно, искажения трудно исправить. Возможно, они не исправляются в принципе. Но дело не в этом. Если, взглянув на своё ментальное оборудование, мы видим заурядный пример известного класса ошибок, и эта ошибка возникает из-за созданной эволюцией формы оборудования, а не из-за недостатка оборудования или плохого его содержимого, то мы называем её искажением.
Лично я вижу цель оттачивания навыков рационалиста в усилении способностей находить истину. Задание состоит в том, чтобы добраться до позитивной отметки (истины), а не в том, чтобы избежать негативной отметки (неудачи). Пространство неудач велико, там найдётся бесконечное множество ошибок в бесконечном их разнообразии... Пространство успеха меньше, и поэтому про него можно рассказать больше.
Мы преследуем великую цель нахождения истины, нам отчаянно нужны знания, и кроме того, мы любопытны. Поэтому мы стремимся преодолеть все лежащие на пути препятствия, и без разницы, как мы их при этом называем.
Часть «Карта и территория», глава Предсказуемо неправы, подглава Что же такое искажение?.
Данная статья подготовлена на основе материалов сборника эссе «Рациональность: от ИИ до зомби», перевод — русское сообщество LessWrong.
__________________________________________________________________________________________
Читайте нас в
Telegram: https://t.me/honestpharma
VK: https://vk.com/honestpharma
Поддержать на Boosty: https://boosty.to/honestpharma
__________________________________________________________________________________________