Мы опасаемся бездушных роботов и ИИ, но стоит спросить - а какие мы сами на самом деле?
Принято говорить, что нас делает людьми эмпатия — наша способность заботиться о других, утешать, быть рядом. Это - та самая черта, что отличает нас от машин: они вычисляют, мы чувствуем.
Но история — да и даже повседневная жизнь — убеждают в обратном. Раз за разом люди отворачиваются, закрываются или даже участвуют в насилии — не по ошибке, а следуя правилам. Или защищаясь. Или просто пытаясь пережить день.
Правда неприятна: бесчеловечность — это так по-человечески.
Истории, которые мы себе рассказываем
Мы говорим, что у нас есть совесть, мораль, сердце. И это — отчасти — правда. Но далеко не вся.
Бывают моменты — и их немало — когда люди становится холодными, расчетливыми, и даже жестокими. Не где-то в темной главе истории, а прямо у нас на глазах. Расизм, колониализм, войны — это происходило не из-за того, что люди утратили эмпатию. А потому что они убеждены, что поступают правильно. Что наука, порядок и даже «прогресс» требуют этого.
Вспомните, как целые системы строились на идее, что одни люди более развиты, более ценные, более достойны, чем другие. Скандинавский учёный Карл Линней классифицировал людей по расам и это учение использовано для оправдания расизма и колонизации. Генетические теории оправдывали сегрегацию и стерилизацию.
Всё это — в обличии разума и науки.
Но дело не только в идеях. Обычные люди склонны подстраиваются под обстоятельства, которые бывают бесчеловечными. Жан Амери, австрийский философ, выживший в концлагере во время войны, писал о людях, которые его пытали в застенках гестапо — не монстрах, не безумцах. Просто мужчинах. Спокойных, сосредоточенных. Выполняющих свою работу. Его тексты — жесткое свидетельство того, как бесчеловечность укореняется в рациональных, упорядоченных системах.
Зигмунт Бауман, польский социолог, наиболее известный работами по этике и современности, утверждал, что современные бюрократии не предотвращают ужасы — они их упрощают. В книге Модерн и Холокост он показал, как Холокост стал возможен благодаря планированию, отчетности и логистике. Проблема, по Бауману, заключалась не в крахе цивилизации, а в её безупречной работе.
А Станли Милгрэм, американский психолог, провёл в 1960-х известный эксперимент по подчинению. Он выяснил, что обычные люди, получив указания от авторитетного лица, готовы наносить другим болезненные удары током — просто потому что им так сказали. Многие участники эксперимента доводили силы электоударов до величин, вредных для здоровья подопытного — только из-за белого халата и уверенного тона человека, который давал указание это делать. Исследование Милгрэма потрясло мир, показав, насколько легко мы поддаёмся жестокости, когда ответственность несёт кто-то другой.
Когда система поощряет равнодушие
Иногда бесчеловечность — это не громкое насилие. Иногда — это тишина. Обыденность. Рутинность.
Вспомните больницы, суды, школы. По идее, они существуют для помощи. Но внутри них людей часто учат отстранённости. Врачи учатся не привязываться к больным, не поддаваться впечатлению наблюдая их страдания. Учителя выгорают. Социальные работники утопают в делах, которые не могут разрешить.
Почему?
Потому что чрезмерная эмпатия превращается в слабость.
И тогда люди подстраиваются. Следуют предписаниям. Действуют по протоколу. Убеждают себя, что делают всё возможное. И, зачастую, это правда. Но система всё больше поощряет отстранённость, а не заботу. Становится проще отвернуться, чем включиться — не потому что мы жестоки, а потому что устали, боимся или перегружены.
Бесчеловечность приходит не всегда с кулаками. Иногда она просто заполняет пустоту там, где раньше была эмпатия.
Когда эмпатия рушится
Мы думаем, что эмпатия — наше постоянное свойство. Но под давлением оно ломается.
Амери писал, что боль — это не просто физическое страдание. Она разрушает личность. Лишает человека мыслей, слов и связи с другими. В таких условиях люди сдаются. Предают. Умоляют. Становятся соучастниками пыток других. Не потому, что они перестали быть людьми — а потому, что они люди. А люди ломаются.
Вот что трудно признать:
Бояться и морально ломаться — по-человечески.
Желать прекращения собственных страданий — по-человечески. Даже если это значит отказаться от своих ценностей и причинить боль другим — семье, товарищам, незнакомцам.
Когда человек подчиняется, молчит или отворачивается — это не всегда злоба. Иногда — это невыносимый груз быть человеком в бесчеловечном мире.
Иисус и осознание человеческой слабости
Признание того, что человек способен как на любовь, так и на предательство мы найдём не только у философов и психологов. Оно вписано в древнейшие религиозные сюжеты.
В христианской традиции Иисус, олицетворяющий сострадание и моральную стойкость, был предан, отречён, оставлен ближайшими учениками и замучен толпой. Один продал его за серебро. Другой трижды отрёкся. Кто-то — просто исчез, испугавшись. Большинство же наблюдали и подначивали его страдания на кресте.
И это — не второстепенный эпизод библейского писания, а суть истории. Новый Завет не прячет слабость человека — он её подчёркивает. Послание, конечно, не в том, что человек неисправим. А в том, что слабость, страх и моральный крах — часть нашей природы. И в этом осознании — начало смирения.
ИИ как зеркало (бес)человечности
Мы говорим об ИИ как об угрозе — холодном, бесчувственном, бездушном. Но, возможно, нас пугает не то, что машинам не хватает, а то, что они отражают.
Машины не лгут. Не оправдываются. Не прикрывают жестокость словами вроде «эффективность» или «регламент». Они просто следуют заданной логике — беспрекословно.
Вот парадокс. Мы упрекаем машины в бесчеловечности, но сами давно научились жить по холодному расчёту. Сами идем вперёд, зная, что кто-то пострадает, потому что «так надо».
Может, нас пугает не то, что ИИ может стать как мы. А то, что мы уже стали как ИИ — только не хотим себе а этом признаться.
Прежде чем указывать пальцем
Мы всё спрашиваем, могут ли машины стать более человечными. Может, пора спросить наоборот: А какие мы сами?
Мы хотим, чтобы технологии научились эмпатии, доброте, сдержанности. Но это нелёгкие качества — даже для нас. Особенно в системах, где поощряют противоположное.
Опасность не в том, что ИИ подражает нам, а в том, что мы подражаем машинам —и называем это прогрессом.
Спасибо, что дочитали текст до конца!
Давайте подумаем вместе
- Если бесчеловечность — это не отклонение, а часть наших реакций и систем — что это значит для будущего?
- Бывало ли, что вы следовали правилу или инструкции, которые казались неправильными — но всё равно продолжали?
- Можно ли построить человеческое общество, в котором есть место слабости — без превращения её в жестокость?
Мне бы хотелось узнать, что вы об этом думаете.