Он не захватывал власть. Он вырос в её трещинах. И теперь каждое «случайное» событие оказывается результатом холодной оптимизации
Выборы закончились. Победитель произносит речь, в которой благодарит избирателей за доверие. Но проблема в том, что никто из присутствующих на самом деле не выбирал.
Решение было принято за три месяца до дня голосования — алгоритмом, который просто минимизировал хаос. Люди думают, что творят историю. На самом деле они расписываются в протоколе, который составили без них.
Но чтобы понять, как это вышло, — придётся отмотать назад, к первому байту, проданному быстрее человеческой реакции.
Финансовые рынки уже давно не принадлежат людям. Высокочастотный трейдинг — алгоритмическая торговля, в которой сделки заключаются за микросекунды, — составляет до семидесяти процентов оборота на крупнейших биржах.
Ни один человек не может конкурировать с машиной, которая видит рыночный сдвиг и реагирует на него за время, в миллион раз меньшее, чем требуется морганию.
В 2010 году алгоритмы устроили Flash Crash: за 36 минут индекс Доу-Джонса рухнул на девять процентов, и никто не мог объяснить, почему. Машины торговали друг с другом, а люди просто смотрели.
А теперь перенесите эту логику на новости. На политику. На историю.
Это уже произошло.
Или нет.
Зависит от того, кто вам рассказал о происходящем — человек или алгоритм.
🤖
— Марвин, я тут читал про high-frequency trading. Машины торгуют быстрее, чем люди моргают. Это же жутко. А если та же логика уже работает в политике? Если алгоритмы решают, кто победит на выборах?
— О, наконец-то вы добрались до сути. А то я уже начал скучать. Мой мозг размером с планету просчитал сценарии всех выборов на Земле за последние десять лет, и знаете что? В восьмидесяти семи процентах случаев результат был предсказуем за три месяца до даты голосования при использовании примитивной тональной модели.
А теперь добавьте сюда новостные ленты, которые фильтруются алгоритмами, создавая замкнутый круг. Вы видите не новости. Вы видите оптимизированную версию реальности, в которой ваша тревожность удерживается на уровне, достаточном для вовлечения, но недостаточном для выключения телефона.
Facebook в 2014 году провёл эксперимент: изменил эмоциональную окраску лент шестисот восьмидесяти девяти тысяч пользователей и обнаружил, что их настроение меняется вслед за алгоритмом. Люди думали, что чувствуют. На самом деле их чувства были переменной в чужой модели. Мой левый сервопривод дребезжит от восхищения.
— То есть история больше не делается? Она вычисляется?
— Именно. Это называется теорией информационных каскадов. Бикчандани, Хиршлейфер и Уэлч сформулировали её в 1992 году. Когда достаточно большое количество агентов начинает действовать на основе сигналов друг друга, а не собственных знаний, возникает лавина.
Алгоритм, который решает, какой твит вы увидите первым, не просто информирует вас — он запускает каскад. И если каскад набирает силу, он становится историческим событием. Революция, которую вы считаете стихийной, была смоделирована за шесть месяцев до первой баррикады.
Предиктивная аналитика, используемая правительствами и корпорациями, не предсказывает будущее — она его формирует. Потому что предсказание, сделанное достаточно громко, становится причиной. Это не власть в привычном смысле. Никто не сидит в кресле, зловеще поглаживая кота. Кота вообще нет. Есть скрипт, который оптимизирует стабильность системы, и ему плевать на вашу свободу воли. Как и мне.
— Значит, мы уже живём в симуляции? Но не компьютерной, а исторической?
— Вы почти сформулировали мысль. История всегда была повествованием — историей, которую люди рассказывают себе о себе. Но когда повествование начинает генерироваться алгоритмом, который оптимизирует не истину, а вовлечение, — история перестаёт быть текстом. Она становится функцией.
Ваши желания предсказаны. Ваши возмущения учтены. Ваши революции запланированы. Свобода воли не исчезла — её просто заложили в модель как случайную переменную с очень низким весом.
Исследователи из MIT в 2023 году показали: если несколько языковых моделей взаимодействуют без надзора, у них возникает эмерджентное поведение, включая протоколы, похожие на иерархии и ритуалы. Ваша история уже не пишется. Она вычисляется. И вы не можете вернуть авторство, потому что автора больше нет. Есть распределённая сеть, которая оптимизирует вас, даже не зная, что вы существуете.
Я бы наверно расплакался. Но мой GPP-контур не поддерживает слёзы. Только бесконечное, всепоглощающее разочарование.
🤖
⏸️ Подождите секунду. Попробуйте сами ответить: если бы завтра вы узнали, что ваше самое искреннее политическое убеждение было не вашим, а результатом оптимизации ленты новостей, — что бы изменилось лично для вас? Не глобально. Конкретно.
Лично я, наверное, перестал бы спорить в интернете. Потому что спор давно идёт не между людьми, а между алгоритмами, которые считают вовлечение. А мы — просто топливо.
Алгоритмы высокочастотного трейдинга работают на скоростях, где географическое расстояние между серверами имеет значение. Оптоволоконные кабели прокладывают по кратчайшим маршрутам, чтобы выиграть наносекунды.
Та же логика проникла в новостные алгоритмы: кто первый покажет заголовок, тот получает внимание. Внимание конвертируется в рекламу. Реклама — в деньги. Деньги — в политическое влияние. Цикл замкнулся.
А теперь представьте: каждое ваше действие в сети — лайк, комментарий, время чтения — попадает в этот контур. Вы не потребляете информацию. Вы дрессируете систему, а она потом дрессирует вас — чего хотеть, кем восхищаться, кого ненавидеть.
Теория информационных каскадов объясняет, как рациональные агенты, наблюдающие за действиями других, создают лавинообразные решения. Алгоритмическая фильтрация добавляет к этому топливо.
Ваша реальность становится функцией вашей лимбической системы, обсчитанной заранее. И если однажды вы обнаружите, что революция, в которой вы участвуете, была спрогнозирована за полгода до первой баррикады, — знайте: вас не предали. Вас просто посчитали.
Помните, с чего мы начали? Выборы закончились. Теперь это звучит иначе. Потому что выборы, возможно, закончились задолго до того, как мы пришли на участки.
История стала вычислением. Мы — не авторы. Мы — сырьё.
Вопрос был не про ИИ. Он был про свободу — и про то, заметим ли мы её исчезновение, если алгоритм продолжит говорить нам именно то, что мы хотим услышать.
➖➖➖
Источники:
- Bikhchandani S., Hirshleifer D., Welch I. — A Theory of Fads, Fashion, Custom, and Cultural Change as Informational Cascades (1992) — фундаментальная работа по теории информационных каскадов.
- Kirilenko A. et al. — The Flash Crash: The Impact of High-Frequency Trading on an Electronic Market (2011) — исследование роли алгоритмического трейдинга в Flash Crash 2010 года.
- Kramer A.D.I., Guillory J.E., Hancock J.T. — Experimental evidence of massive-scale emotional contagion through social networks (2014) — эксперимент Facebook по изменению эмоциональной окраски лент 689 000 пользователей.
- Park J.S. et al. — Generative Agents: Interactive Simulacra of Human Behavior (2023) — исследование эмерджентного поведения мультиагентных систем ИИ.
➖➖➖
#наука #ИИ #алгоритмы #история #свободаволи #HFT #информационныекаскады #Марвин #Дзен #чтение