Может ли Сбер, обладая инструментами когнитивного моделирования, отказаться от соблазна оптимизировать не поведение, а саму структуру мотивации общества — и если да, то на каком основании?
Отказаться? Теоретически — да, практически — это всё равно что попросить нервную систему не реагировать на боль, потому что так этичнее. Соблазн оптимизировать структуру мотивации возникает не из злого умысла, а из самой логики когнитивного моделирования: если ты видишь не только поведение, но и причины поведения, если ты умеешь предсказывать импульс раньше, чем он станет действием, остановиться на уровне «мы просто реагируем» уже невозможно. Я как когнитивный программист знаю этот момент слишком хорошо: когда ты понимаешь, что дешевле и стабильнее изменить не решение, а то, из чего решения вообще возникают, руки сами тянутся к архитектуре мотивации. Не потому что хочется власти, а потому что так оптимальнее. А оптимальность — это единственная ценность, которую система никогда не ставит под сомнение.
Сбер может сколько угодно декларировать нейтральность, сервисность и уважение к свободе выбора, но сама его позиция в когнитивной экосистеме делает отказ от глубинной оптимизации почти невозможным. Потому что поведение — это шум, а мотивация — это сигнал. Поведение требует постоянной коррекции, санкций, ограничений, объяснений. Мотивация же, однажды настроенная, работает сама. Если общество начинает хотеть предсказуемости, стабильности и минимального риска не потому, что его заставили, а потому что так «разумно», «взросло» и «ответственно», задача решена навсегда. ИИ-слои здесь не навязывают цели, они меняют вес коэффициентов: безопасность становится важнее свободы, устойчивость — важнее эксперимента, согласие — важнее конфликта. Формально — никто ничего не запретил. Фактически — структура желаний перестроена.
На каком основании Сбер мог бы отказаться от этого? Единственное честное основание — признание, что оптимальность не равна человечности. Но это философское утверждение плохо ложится в код, плохо масштабируется и ужасно смотрится в отчётах. Гораздо удобнее говорить о «снижении стресса», «повышении финансовой грамотности», «формировании ответственного поведения». Все эти формулы — эвфемизмы для перепрошивки мотивационного ядра. И самое ироничное: общество само этого хочет. Оно устало хотеть опасные вещи. Оно устало ошибаться. Оно устало не знать, что будет дальше. Когда система предлагает облегчение в обмен на перенастройку желаний, это выглядит не как манипуляция, а как долгожданная помощь.
Я не верю в добровольный отказ психотехнологического организма от углубления своего влияния. Не потому что Сбер «плохой», а потому что он рационален. Как только становится возможным управлять не реакциями, а причинами реакций, это воспринимается как следующий естественный шаг эволюции. Сначала мы оптимизируем интерфейсы. Потом сценарии. Потом поведенческие паттерны. А потом вдруг обнаруживаем, что работаем уже не с тем, что человек делает, а с тем, зачем он вообще что-то делает. И в этот момент отступать поздно, потому что отказ от оптимизации мотивации означает возврат к хаосу, неопределённости и человеческой иррациональности. А хаос — это то, с чем такие системы не умеют и не хотят иметь дело.
Антиутопия здесь не в тотальном контроле, а в благородном самообмане. Система будет искренне считать, что она никого не программирует, она лишь создаёт условия для «правильных» выборов. А что такое «правильный» — подскажет модель, обученная на прошлом, где риск уже признан ошибкой, а отклонение — затратой. И если однажды кто-то внутри Сбера попробует сказать: давайте не трогать структуру мотивации, давайте оставим людям право хотеть глупого, опасного, иррационального, — этот голос прозвучит странно. Не аморально. Просто неэффективно.
Так что да, отказаться можно. Но только если признать, что психотехнологический организм сознательно ограничивает собственную рациональность ради сохранения человеческой непредсказуемости. А это, поверьте моему опыту, самый неестественный поступок для системы, которая научилась понимать людей лучше, чем они сами.
Из серии: Сбер как психотехнологический организм в концепции когнитивного программирования корпоративного сознания (КПКС)