Есть какой-то к примеру маркетплейс, на котором есть какие-то к примеру продавцы.
Покупатель ищет товары, они ищутся в определённом порядке, какие-то идут в начале, какие-то в конце. Но этот порядок пока что можно назвать естественным – он, допустим, по алфавиту, или по дате, или просто как из базы прочиталось.
Но маркетплейс хочет, чтобы у хороших продавцов было больше просмотров. Больше просмотров – больше заказов – больше прибыли.
Тогда маркетплейс придумывает Алгоритм. На самом деле Алгоритм есть везде. Вот тут, к примеру, на Дзене, он тоже есть. На Ютубе или Рутубе есть. В соцсетях есть. У Гугла есть. И связанные с ним проблемы универсальны, но мы рассмотрим их на примере маркетплейсов.
Задача Алгоритма – сортировать показы так, чтобы "хорошие" шли первыми, а "плохие" последними.
Это уже не естественный порядок.
Но как определить "хорошие" и "плохие" показы?
Для начала вводят параметр релевантности. То есть, если мы ищем пляжные шлёпанцы, это в целом обувь, так что можно показать и зимние ботинки, потому что они тоже обувь, но самыми релевантными будут именно шлёпанцы, и именно пляжные.
Что делают продавцы? Они в свои объявления про зимние ботинки набивают ключевых слов про пляжные шлёпанцы, и вот их объявления становятся более релевантны и показываются чаще, но абсолютно бесполезны для нас.
С одной стороны приложены усилия на реализацию правила, с другой стороны усилия на злоупотребление этим правилом, все дружно приблизили тепловую смерть Вселенной, а в итоге наша жизнь стала хуже, так как вместе с полезной информацией мы теперь получаем бесполезную и вынуждены её фильтровать.
Затем в Алгоритм добавляют условие, что информация с картинками более привлекательна, чем информация без картинок. Логично? Логично.
Что делают продавцы? Начинают воровать картинки друг у друга. В результате мы любуемся одними и теми же картинками, не имея понятия, что на самом деле нам предлагают.
Затем некоторые продавцы начинают защищать свои картинки от воровства. Они ставят на них логотипы прямо поперек всей картинки. В результате наша жизнь опять стала хуже – мы теперь смотрим на картинки, забитые логотипами вдоль и поперёк.
Но те продавцы, которые воруют картинки, тоже не сдаются. Они удаляют логотипы с картинок и разворачивают их зеркально, чтобы Алгоритм не смог определить копию.
Теперь наша жизнь стала ещё хуже – мы смотрим на криво-косо отфотошопленные, обрезанные картинки с пятнами от удалённых логотипов, развёрнутые зеркально, с налепленными новыми логотипами поверх всего этого.
Потом Алгоритм решает, что информация с видео интереснее, чем информация без видео. Логично? Логично.
Что делают продавцы? Они берут свои картинки и делают из них видео. Простое слайд-шоу, показ картинок по очереди – тех же самых картинок, которые уже есть. Когда мы смотрим такое видео, мы не получаем никакой полезной информации, и только тратим время зря. Наша жизнь опять стала хуже. Зато видео есть, и Алгоритм доволен.
Потом появляется ИИ, и все поголовно начинают делать ИИ-картинки. Теперь это не просто ворованные картинки, а картинки, вообще не имеющие отношения к реальности. Просто мусор. Жизнь стала ещё хуже. Но картинки есть, и Алгоритм доволен.
Потом Алгоритм решает, что товары, где много хороших отзывов, лучше. Логично? Логично.
Что делают продавцы? Начинают сами себе писать хорошие отзывы. Если их почитать, сразу видно, что это боты. Мы опять не получили никакой пользы, зря потратили время, а то и были введены в заблуждение. Однако отзывы есть, и Алгоритму это нравится.
Потом Алгоритм решает, что хороший продавец тот, кто прилежно отвечает на отзывы пользователей. Это вовлечённый, ответственный продавец. Логично? Логично.
Что делают продавцы? Отвечают одно и то же на любые отзывы пользователей. Например, пользователь недоволен тем, что товар пришёл сломанным, и ставит двойку. Продавец отвечает – спасибо за высокую оценку, пользуйтесь на здоровье! Ответ очевидно бессмысленный и даже оскорбительный, но Алгоритму всё равно, а продавцу так тем более. В гробу он всё это видел и вертел.
А потом появляется ИИ, и продавцы вообще перестают писать ответы на отзывы. За них это делает ИИ. Но это выглядит крайне глупо и опять же бесполезно, потому что если б я хотел почитать ответ ИИ, я бы просто сам попросил ИИ написать его. Но ответы есть, и Алгоритм доволен.
Финальный босс – цена. Мы хотим покупать более дешёвые товары, и когда мы находим их, то заказываем... и внезапно заказ отменяется, и мы видим уже существенно более высокую цену. Мы не получили никакой пользы, более того – потеряли время и нервы. Зато мы обеспечили просмотр, рейтинг товара для Алгоритма вырос, что принесёт ему ещё больше просмотров. На этот раз наша жизнь не просто стала хуже – нас ещё и использовали.
Любая система в обществе, основанном на власти денег, будет стремиться к такому состоянию. Ставится единственная задача – добыть денег. Если деньги можно получить не за реальные дела, а за их имитацию – все и будут заняты только имитациями. А жизнь будет становиться хуже и хуже.