Найти в Дзене

Ошибки мышления. Втупительное слово.

Знаете ли Вы, что наш мозг часто совершает ошибки, которые мы можем даже не заметить? Каким бы умным, расчетливым и рассудительным Вы ни были, Вы все равно не застрахованы от ошибок мышления (другой термин – «когнитивное искажение»). Но что это значит — ошибки мышления? Это значит, что мозг работает как-то неправильно или же мы, люди, имеем какой-то странный мозг, который так себя ведет? А может, наш мозг имеет тенденцию ломаться, что приводит к таким последствиям? Но не спешите обвинять во всём мозг. Этот орган был сформирован эволюцией на протяжении многих миллионов лет, а она не оставляет «в живых» то, что явно вредно. Да, наш мозг может ломаться, как любая машина, но это проявляется совсем иным способом — различными заболеваниями. Однако, когнитивные искажения — это не болезнь и не патология развития. Нужно ли вообще что-то знать о когнитивных искажениях, ведь как-то жили без этого и дальше живем? Нужно. Как и любые ошибки, их тоже нужно исправлять. Возможно ли их распознать и отл

Знаете ли Вы, что наш мозг часто совершает ошибки, которые мы можем даже не заметить? Каким бы умным, расчетливым и рассудительным Вы ни были, Вы все равно не застрахованы от ошибок мышления (другой термин – «когнитивное искажение»).

Но что это значит — ошибки мышления? Это значит, что мозг работает как-то неправильно или же мы, люди, имеем какой-то странный мозг, который так себя ведет? А может, наш мозг имеет тенденцию ломаться, что приводит к таким последствиям? Но не спешите обвинять во всём мозг. Этот орган был сформирован эволюцией на протяжении многих миллионов лет, а она не оставляет «в живых» то, что явно вредно. Да, наш мозг может ломаться, как любая машина, но это проявляется совсем иным способом различными заболеваниями. Однако, когнитивные искажения это не болезнь и не патология развития.

Нужно ли вообще что-то знать о когнитивных искажениях, ведь как-то жили без этого и дальше живем? Нужно. Как и любые ошибки, их тоже нужно исправлять. Возможно ли их распознать и отловить? Возможно, если Вам о них известно, и если вы владеете методами т.н. рационального/критического мышления.

Впереди нас ждёт серия статей, посвященных когнитивным искажениям, рациональному мышлению, а рассказать об этом мне поможет Элиезер Юдковский — американский специалист по искусственному интеллекту, один из авторов блога Overcoming Bias (преодоление предубеждений), и блога LessWrong, нацеленного на «развитие рациональности человека и преодоление когнитивных искажений». Юдковский — автор нескольких научно-фантастических, рациональных рассказов, его наиболее известное произведение — это фанфик «Гарри Поттер и методы рационального мышления», который я очень рекомендую почитать! Однако, если Вы ярый фанат классического Гарри Поттера, то, возможно, Вам не стоит этого делать.

Рассказывая об ошибках мышления, я буду опираться на сборник «Рациональность: от ИИ до зомби», написанную Юдковским, а также на некоторые дополнительные материалы и опыт обучения студентов в нашей лаборатории. Сборник Юдковского состоит из 333 эссе о человеческой рациональности, а мы постараемся наложить эти концепции на реальность отечественного фармацевтического образования. Надеюсь, получится интересно и увлекательно.

Элиезер Шломо Юдковский (род. 11 сентября 1979) — американский специалист по искусственному интеллекту, исследующий проблемы технологической сингулярности и выступающий за создание дружественного ИИ.
Элиезер Шломо Юдковский (род. 11 сентября 1979) — американский специалист по искусственному интеллекту, исследующий проблемы технологической сингулярности и выступающий за создание дружественного ИИ.

Ну и, конечно, нам придётся рассмотреть эволюционные причины возникновения и поддержания в человеческих популяциях разных когнитивных ошибок, потому что существуют они не сами по себе, а в эволюционном и социальном контекстах, их поддерживающих. И мы не забудем «взглянуть им в глаза».

Отдельное спасибо русскому сообществу LessWrong за перевод ключевых материалов!