Болезнь «закрытого» крана поразила многих авторов Дзена. Заключается она в том, что в один момент канал перестают рекомендовать, и число показов падает практически до нуля. Ни новые статьи, ни старые почти никому не показывают. При этом канал индексируется как и раньше, и основным источником читателей становится поиск.
Но вот мне попалось выступление Александра Толокольникова (директора по продукту). Сюда я копировать его не буду, но вы можете его легко найти в поиске.
Суть его в том, что существует некий алгоритм, который помечает все каналы, которые считает некачественными.
Хотели как лучше, а получилось как всегда. Дзен начал бороться с некачественным контентом, доверив дело сырому алгоритму, который, основываясь на суждениях непонятных людей, обучился отличать плохой контент от хорошего. Результат немного предсказуем – под фильтр попали самые разные каналы, даже те, что считались примерными.
И теперь, когда смотришь ленту, становится еще грустнее, чем раньше.
Меня более всего поразило высказывание Толокольникова о том, что положительная реакция читателя на контент (как то лайки и дочитывания до конца) вовсе не означает, что контент хороший.
Ага, Роботу виднее. А читателю кажется, что ему понравилось. Он потом приходит в себя и думает «а зачем же я этот лайк поставил? Автор меня загипнотизировал, а на самом деле я страдал, читая статью, но не замечал этого». А робот догонял и переспрашивал случайных людей, а понравилась ли им статья. И это почему-то оказалось более весомым аргументом.
Все это напомнило мне демократов. Тех, что из США. Которые утверждают, что в России, Белоруссии и некоторых других странах президенты нелегитимные, потому что их поддерживают неправильные недемократичные граждане, на какое они вообще право голосовать имеют на демократических выборов. Да, демократия для демократов!
А теперь мои предположения про того робота, который решает, хороший канал или нет.
Сейчас для описанных выше задач применяются нейросети. Например, когда я послушал первое занятие по нейросетям, там приводился пример, как создать нейросеть, которая обучится отличать кошку от собаки по трем параметрам, например, массе, длине и высоте. Т.е. берется база данных с имеющимися собаками и кошками, где уже выписаны эти три параметра. Нейросеть прогоняет эту базу через себя и обучается делать выбор. Далее, если нейросети назвать эти три параметра неизвестного животного, она сделает выбор, на кошку оно похоже или на собаку.
Однако, нетрудно понять, что собака и кошка могут обладать одинаковыми параметрами, и тогда нейросеть может ошибиться. Да, правильных ответов будет больше, чем неправильных. Но вред от ошибок может быть существенным, если слишком полагаться на решения такого ИИ.
Другой случай, когда нейросеть обучается человеком, который должен сам понимать, где тут хорошо, а где плохо, даже не осознавая критериев. А нейросеть уже сама оценивает все параметры и определят, где же между хорошим и плохим различия. Видимо, что-то подобное происходит в Дзене с весьма плачевным результатом.
Да, пользователи иногда жалуются на статьи. Но они должны аргументировать, что есть какое-то нарушение. А тут прохожему говорят оценить канал. Он заглянул на канал, а мнение автора противоположно его мнению. А может, картинки некрасивые или еще какая-то причина. А может, статья про квантовую физику, и плохая, потому что он ничего в ней не понимает. И он отметит, что канал плохой.
Обратите внимание, речь не идет о таких нарушениях, как спам, треш, кликбейт и прочее. За это есть отдельные нарушения. Дзен пытается научить ИИ определять ничего не нарушающий, но плохой контент, и, по всей видимости, терпит закономерную неудачу.
Почему закономерную? Потому что практика – критерий истинности. Но не все это понимают. Сейчас поясню следующим примером.
Есть игра Майнкрафт (это где все квадратные). Чем интересна история этой игры: когда ее увидели издатели, то сразу же отказались. Эта игра, где пожертвовали графикой. Это, по оценкам, очень плохо. Не может быть игра без графики.
Но эта игра есть. Вы можете на нее плеваться, но миллионам людей нравится в это играть. И не важно, что миллиарду эта игра не нравится. Продукт создается для своей аудитории, а не для всех. Если мне нравится читать автора, мне все равно, есть ли у него картинки. Или видео может обучать, как что-то делать, и мне не важно, что там на фоне собаки лают.
Таким образом, Дзен создал химеру, которая не понимает, что творит, используя вместо привычных критериев (вовлеченность, CTR, лайки) какие-то надуманные. И я не верю, что это возможно исправить. Скорее всего, это закончится очередной реформой Дзена и обновлением алгоритмов.