Каждый диктатор, каждый архитектор геноцида, каждый создатель концлагеря искренне верил, что делает мир лучше. Это не преувеличение — это задокументированный исторический факт, от которого у любого здравомыслящего человека должен побежать холодок по спине. Мы привыкли думать о злодеях как о карикатурных персонажах, которые потирают руки и хохочут над страданиями невинных. Голливуд десятилетиями кормил нас этим утешительным враньём.
Реальность такова: большинство творцов исторических катастроф были убеждены в собственной правоте с той же непоколебимой уверенностью, с какой вы убеждены, что завтра взойдёт солнце. Они не просыпались с мыслью «а не погубить ли мне сегодня пару миллионов человек». Они просыпались с мыслью «как мне приблизить светлое будущее для всего человечества».
Когнитивное искажение, заставляющее нас оценивать действия по намерениям, а не по результатам, — одна из самых опасных ловушек человеческого разума. Мы прощаем себе и другим чудовищные последствия, если они были вызваны «благими побуждениями». Но вирусу, голоду или пуле абсолютно безразлично, какими мотивами руководствовался тот, кто их запустил в мир. Смерть не становится менее окончательной оттого, что её причинил идеалист, а не циник.
История человечества — это не противостояние добра и зла, как нам хотелось бы верить. Это бесконечная череда столкновений между разными версиями «добра», каждая из которых готова уничтожить всё на своём пути ради торжества собственной утопии.
Дорога в ад вымощена добрыми намерениями
Эта старая пословица давно превратилась в затёртый штамп, который мы произносим, не задумываясь о его чудовищной точности. А зря. Потому что это буквальное описание механизма, который снова и снова превращает человеческие мечты в массовые захоронения.
Когда Мао Цзэдун запускал политику «Большого скачка» в 1958 году, он искренне хотел превратить аграрный Китай в индустриальную сверхдержаву. Мотивация была благородна: освободить народ от вековой нищеты, догнать западные страны. Результат? От 15 до 55 миллионов погибших от голода — точные цифры до сих пор засекречены. Крестьян заставляли плавить сельскохозяйственные инструменты для производства «стали», которая оказывалась непригодной ни для чего. Урожай гнил на полях, потому что собирать его было нечем и некому.
Но позвольте, Мао же хотел как лучше! Он мечтал о процветающем Китае, о величии нации. Разве это не смягчает вину? Спросите об этом у скелетов в братских могилах по всей стране.
Коллективизация в Советском Союзе проводилась под лозунгами справедливости и равенства. Раскулачивание преподносилось как освобождение бедняков от гнёта эксплуататоров. На практике — депортация миллионов людей, чья вина состояла в том, что они умели хозяйствовать лучше соседей. Голодомор унёс жизни от трёх до семи миллионов украинцев, но организаторы до последнего вздоха были убеждены в исторической необходимости своих действий.
Знаете, что объединяет эти катастрофы? Уверенность исполнителей в собственной моральной безупречности. Они видели себя хирургами, удаляющими опухоль с тела общества. А когда ты хирург, немного крови — профессиональная неизбежность.
Психология спасителя человечества
Существует занятный психологический феномен — «комплекс мессии» или синдром спасителя. Человек, им поражённый, искренне убеждён, что именно он знает, как решить проблемы окружающих. Причём согласие самих окружающих на спасение его не интересует. Они же не понимают, что для них лучше! Их нужно направить, а если не поймут — заставить. Для их же блага.
Эффект Даннинга-Крюгера усугубляет ситуацию: чем меньше человек понимает в какой-то области, тем более компетентным себя считает. Некомпетентность не позволяет осознать собственную некомпетентность. Это объясняет, почему люди, никогда не управлявшие даже собственным хозяйством, с лёгкостью берутся переустраивать государства. Невежество порождает самоуверенность, самоуверенность — решительность, решительность — катастрофу.
Есть и более тонкий механизм. Когда человек действует из «благих побуждений», он освобождает себя от необходимости анализировать последствия. Зачем проверять результаты, если намерения были чистыми? Зачем слушать критиков, если они не понимают величия замысла?
Этот порочный круг превращает благонамеренного идеалиста в упрямого фанатика быстрее, чем вы успеете сказать «непредвиденные последствия». А фанатик с властью — самое опасное существо на планете. Циника можно подкупить или запугать. С истинным верующим такие фокусы не работают.
Наука во имя добра
Наука ничуть не защищена от проклятия благих намерений — скорее наоборот. Научный авторитет придаёт им опасный налёт легитимности. Когда человек в белом халате говорит, что это для вашего блага — спорить неловко.
Евгеника в начале XX века считалась прогрессивной наукой. Её поддерживали нобелевские лауреаты и государственные деятели по обе стороны Атлантики. Принудительная стерилизация «неполноценных» практиковалась в США задолго до того, как нацисты довели идею до логического завершения. В Калифорнии стерилизовали людей до 1979 года. Но ведь все хотели как лучше! Здоровое общество, крепкие дети — звучит почти как реклама современного генетического тестирования.
Лоботомия принесла Эгашу Монишу Нобелевскую премию в 1949 году. Тысячи людей превратились в овощи благодаря этой «революционной» процедуре, которая преподносилась как гуманная альтернатива психиатрическим лечебницам. Врачи, втыкавшие ледорубы в глазницы пациентов, были убеждены, что совершают акт милосердия.
ДДТ рекламировался как спаситель человечества от малярии. Его распыляли над городами, пляжами, детскими площадками. Только спустя десятилетия выяснилось, что «чудо-средство» угрожает существованию целых экосистем.
Закономерность очевидна: чем грандиознее обещания, тем меньше вопросов задают и тем разрушительнее последствия. Наука в руках идеалиста — ядерная бомба в руках ребёнка, который хочет устроить красивый фейерверк.
Современные благодетели с кремниевыми сердцами
Перенесёмся в настоящее, где те же механизмы работают с удвоенной силой, только облачённые в худи вместо военных мундиров.
Кремниевая долина переполнена людьми, которые серьёзно произносят «мы хотим сделать мир лучше» и «наша миссия — соединить человечество». Они верят в это так же искренне, как Мао верил в Большой скачок. При этом их алгоритмы разрушают демократические институты, усиливают поляризацию общества и превращают миллионы в дофаминовых зомби.
Социальные сетисоздавались, чтобы люди поддерживали связь с близкими. На практике они стали инструментами дезинформации, травли и радикализации. От геноцида рохинджа в Мьянме до штурма Капитолия — везде след соцсетей. Но разработчики «не предвидели» последствий — классическая отмазка благонамеренных разрушителей.
Искусственный интеллект разрабатывается, чтобы «освободить человечество от рутинного труда». В чьих руках окажутся эти технологии? Тех же идеалистов, убеждённых, что знают, как организовать общество лучше, чем само общество. История ничему их не научила — слишком заняты были изобретением светлого будущего.
Нынешние технологические евангелисты пока не расстреливают несогласных. Они просто лишают их работы, платформы и голоса. Но дайте им достаточно власти — и посмотрим, как долго продержатся гуманистические принципы.
Анатомия рукотворной катастрофы
Почему это происходит снова и снова? Разберём механику вечного двигателя катастроф.
Первый этап — идентификация проблемы. Кто-то решает, что существующий порядок несправедлив или неэффективен. Само по себе неплохо, но человек начинает видеть себя тем, кто «понял» то, чего не понимают другие.
Второй этап — разработка решения. Обычно радикальная перестройка, а не постепенные улучшения. Почему? Постепенные улучшения скучны, они не позволяют почувствовать себя спасителем человечества.
Третий этап — игнорирование сомнений. Критика отметается как ретроградство или глупость. Реформатор влюблён в собственное решение настолько, что любое возражение воспринимает как оскорбление.
Четвёртый этап — внедрение. Масштабное, без пилотных проектов. Если идея правильная, зачем проверять?
Пятый этап — эскалация обязательств. Когда результаты не блестящие, логично остановиться. Но это означало бы признать ошибку. Вместо этого ресурсы удваиваются, критики подавляются, неудачи списываются на саботаж.
Шестой этап — катастрофа. Процесс необратим, жертвы подсчитаны. Становится очевидно то, что скептики говорили с самого начала.
Но не волнуйтесь — уже подрастает новое поколение идеалистов, готовых исправить ошибки предшественников своим собственным, абсолютно правильным способом.
Что со всем этим делать
Если благие намерения так опасны, что же — вообще ничего не делать? Сидеть сложа руки?
Нет. Отказ от действия — тоже действие со своими последствиями. Пассивность перед несправедливостью — не добродетель, а трусость. Мир не станет лучше сам по себе. Проблема не в желании улучшить мир — проблема в убеждённости, что ты точно знаешь, как это сделать.
Эпистемологическая скромность — вот что отличает ответственного реформатора от потенциального тирана. Признание собственной ограниченности, готовность слушать критику, способность остановиться при первых признаках проблем.
Подозревайте любого, кто обещает простые решения сложных проблем. Бегите от тех, кто отказывается обсуждать негативные последствия своих инициатив. Остерегайтесь тех, кто произносит «цель оправдывает средства» без тени иронии.
История учит не отказываться от попыток улучшить мир, а тому, что эти попытки требуют смирения и постоянной готовности признать неправоту. Благие намерения — не охранная грамота и не индульгенция. Это всего лишь начальная точка, причём не самая важная.
Результаты — вот что имеет значение. Единственный способ добиться хороших результатов — непрерывно подвергать сомнению собственные методы, особенно если они продиктованы самыми чистыми побуждениями. Потому что следующая катастрофа начнётся с кого-то, кто абсолютно уверен в своей правоте и искренне хочет сделать мир лучше.
Возможно, этот кто-то сейчас читает эту статью. Возможно, это вы.