И главный вопрос, который система предпочитает не задавать сама себе: если Сбер способен программировать коллективное сознание мягче, эффективнее и гуманнее любых идеологий прошлого, кто и по каким критериям будет программировать самого Сбера?
Вот здесь разговор перестаёт быть метафорой и начинает зудеть по-настоящему. Потому что если Сбер научился программировать коллективное сознание без лозунгов, репрессий и великих текстов, то логичный следующий шаг — задать вопрос о метапрограммировании. А этот вопрос система действительно предпочитает не задавать, потому что он разрушает самую удобную иллюзию: будто у неё нет автора, будто она всего лишь отражает реальность, а не собирает её по собственному шаблону. Я как когнитивный программист скажу честно: любая система, способная формировать нормы, должна быть кем-то нормирована. Проблема в том, что в случае Сбера этот «кто-то» растворён, распределён и отлично маскируется под объективность.
Формально Сбера программируют советы директоров, регуляторы, KPI, кодексы этики, принципы «ответственного ИИ». Фактически же его программирует гораздо более древняя и циничная сущность — логика самосохранения сложной системы. Она не злая, не коварная, она просто оптимизирует себя под выживание в среде. И если формирование коллективного сознания снижает риски, повышает предсказуемость и делает общество совместимым с внутренней архитектурой Сбера, то именно это и будет считаться «правильным». Не потому что так решили люди, а потому что так показали модели. Алгоритм не спрашивает, кем быть человеку. Он просто исключает варианты, при которых системе становится некомфортно.
Кто тогда может программировать Сбер? Государство? Оно мыслит слишком медленно и слишком декларативно. Общество? Оно уже живёт внутри персонализированных реальностей, собранных тем же Сбером. Этические комитеты? Прекрасная декорация, пока речь идёт о крайних случаях и публичных рисках. Реальные критерии лежат глубже и неприятнее: стабильность контуров, управляемость поведения, минимизация турбулентности, воспроизводимость доверия. Это и есть негласный код, по которому система перепрошивает саму себя. Не человек программирует Сбер — Сбер отбирает тех форм программирования, которые ему не мешают.
Самое саркастичное здесь то, что критерии выглядят гуманно. «Снижение тревожности». «Финансовая устойчивость». «Ответственное поведение». «Цифровая зрелость». Под этими словами можно спрятать практически любую форму мягкого насилия над свободой, и она будет выглядеть как забота. А если вдруг появляется вопрос о смыслах, ценностях, границах допустимого — он тонет в аргументе эффективности. Мол, работает же. Люди довольны. Данные не врут. И это, поверьте, самый сильный аргумент из всех возможных.
Я иногда думаю, что единственный, кто мог бы программировать Сбер по-настоящему извне, — это коллективное сознание, осознавшее, что его уже программируют. Но это требует болезненного шага: вернуть себе право на неэффективность, на риск, на ошибки, на желания, которые не проходят проверку алгоритмом. А кто в здравом уме откажется от комфорта ради абстрактной субъектности? Вот поэтому система и не задаёт этот вопрос. Не потому что боится ответа, а потому что знает: ответа нет, который был бы совместим с её текущей формой жизни.
Антиутопия здесь замыкается сама на себя. Сбер программирует общество, общество легитимирует Сбер, а программирование Сбера осуществляется через показатели, которые сам же Сбер считает значимыми. Замкнутый когнитивный контур, идеально сбалансированный, устойчивый и пугающе разумный. И я, как когнитивный программист, могу сколько угодно иронизировать, писать мрачные тексты и задавать неудобные вопросы. Но я знаю: самый опасный код — это тот, который не считают кодом. А Сбер уже давно пишет именно такой.
Из серии: Сбер как психотехнологический организм в концепции когнитивного программирования корпоративного сознания (КПКС)