Одинаковая одежда для мозгов: Как алгоритм строит новую Утопию
Я часто думаю о том, что общего у нас, современных людей, одержимых уникальностью, с жителями того самого воображаемого острова, описанного четыре столетия назад. Это место, где все было единообразно до жути: одинаковая одежда, идентичные жилища, один и тот же план города. Не было частной собственности, а жизнь представляла собой рационально спроектированный механизм, который должен был принести всеобщее благо.
Если вдуматься, это была, по сути, философская атака на человеческий хаос. Автор этой идеи, будучи государственным деятелем, хотел заменить анархию различий идеальной геометрией порядка. Он справедливо полагал, что материальная нужда и частные интересы ведут к конфликтам и несправедливости. Поэтому он предложил радикальное решение: если все равны внешне, может, мы станем равны и внутренне? В конечном счете, мы всегда тяготели к единству, чтобы выжить.
Сегодня, конечно, мы не носим одинаковые кафтаны. Мы короли собственного стиля, живущие в эпоху крайнего индивидуализма. Мы верим, что наша индивидуальность это наша главная ценность. Но что, если мы, сами того не замечая, уже переселились на тот самый остров Унификации, только он стал цифровым? Вместо одинаковой одежды, у нас теперь одинаковые алгоритмы, управляющие нами. Это тревожит меня, потому что неуправляемая стихия, рождаемая миллиардами людей, превратилась в причину возможной деградации.
Как стать счастливым по стандартному рецепту?
Вспомните, как вы выбираете фильм, ресторан или новую работу. Вы спрашиваете "Гугл" или советуетесь с социальными сетями. Вы ищете "рецепт успеха". Наши телефоны, наши социальные платформы знают о нас больше, чем мы сами, потому что они мониторят каждый наш клик, каждую покупку, каждый лайк. Теоретически, внешний алгоритм способен познать нас лучше, чем мы сами.
В этом я вижу вторую, цифровую, редакцию той самой Утопии. В ней нет места спонтанности, конфликту и нелогичным человеческим желаниям. Если мы позволим ИИ принимать решения за нас оптимальные, рациональные, математически выверенные, мы, конечно, станем более эффективными, но при этом добровольно превратимся в роботов, живущих по стандартным схемам. Это может привести к тому, что наш мозг, стараясь меньше напрягаться, будет получать универсальные, но стандартные ответы на все вопросы бытия.
И в этом, на мой взгляд, кроется самая большая ловушка. Ведь если вы спрашиваете, как стать счастливым, и алгоритм дает вам "полезный" и "эффективный" ответ, то и у всех вокруг будет точно такая же книга рецептов. Мы придем к "умственной и психологической гомогенизации", где индивидуумы, обладающие правом на самовыражение, будут терять свое собственное "я", становясь частью коллективного "улья". Наше многообразие, которое всегда было ключевым преимуществом вида, будет уничтожено во имя эффективности.
Почему справедливость всегда убивает равенство?
Мудрецы с давних пор пытались создать общество, где царят идеалы равенства и свободы. Идея равенства неразрывно связана с идеей творения: перед Творцом все души равны. Но биологическая эволюция не создает равных; она движима различиями, а не сходством.
Как только мы переходим к реальной жизни, мы видим, что эти две ценности свобода и равенство постоянно борются друг с другом. Если каждому дать полную свободу, равенство исчезнет. Если обеспечить абсолютное равенство (уравниловку), нужно будет ограничить свободу тех, кому повезло больше. В результате, любое стремление к унификации или абсолютному равенству, даже из лучших побуждений, всегда оборачивалось тиранией или жестким контролем, как это было в тоталитарных режимах, построенных на эгалитарных идеалах.
Потому что для подлинного развития нам необходимо разнообразие мышления, а ущербность индивидуальностей была бы трагедией.
Цифровой жрец в Черном ящике
Вместе с алгоритмами появляется новая форма власти власть, основанная на знании и данных. Приверженцы этой новой религии, датаизма, считают, что поскольку человеческий мозг не справляется с потоками данных, обработку нужно доверить электронным алгоритмам.
В этом процессе возникает проблема "Черного ящика": мы не понимаем, как именно алгоритм принимает решения. Математика становится новым "политическим парламентом", но ее законы непостижимы для всех, кроме "верховных жрецов" математиков и программистов. Они не верят в субъективные ценности, для них важны только измеримые параметры. Как закодировать справедливость, достоинство или дружбу? Компьютеры "понимают" красоту только как слово, ассоциирующееся с закатами или журналами мод. Если нечто не поддается точному подсчету, оно игнорируется.
Эта новая система, основанная на эффективности, не может справиться с нашей главной особенностью: способностью сочетать противоречия, то есть с нашим внутренним "я". Если мы позволим цифровой рациональности устранить эту человеческую сложность, мы получим не справедливую Утопию, а "массированное, промышленное производство несправедливости".
Мы сами, своими руками, создаем нового абсолютного монарха беспристрастного, не подкупного, но слепого к человеческой душе, потому что у него нет эмоций, инстинктов, нет истории развития, как у человека. Он не выбирает, он запрограммирован.
На самом деле, наш эволюционный успех всегда заключался в нашей двойственной природе: мы эгоистичны, но способны к сотрудничеству; алчны, но щедры; и самое главное мы умеем спорить, критиковать и переоценивать. Мы постоянно разрываемся между противоречиями, и именно эта внутренняя напряженность является солью любой культуры и двигателем прогресса. Стабильность без противоречий это смерть для развития.
Итак, перед нами встает выбор: либо мы, увлеченные поиском эффективности, скатимся к идеалу Мора, где унификация станет тотальной, а индивидуальность мифом, либо мы признаем, что наше уникальное положение в нашей способности вмещать множества, видеть мир с миллиардов точек зрения.
Этот выбор зависит только от нас, а история, как мы знаем, не делает никому скидок.
Готовы ли мы, наконец, принять бремя ответственности за нашу свободу, чтобы наш вид стал следующей версией нас усиленной технологией, но свободной, защищенной и думающей, ищущей и спорящей?