Последний год я вплотную занимаюсь Data Science, а лента рекомендаций Дзена - это и есть дата саинс. Алгоритм машинного обучения решает, какой канал рекомендовать в ленте Дзена, а какой - нет.
Говоря на языке машинного обучения, разработчики Дзен написали модель на питоне, которая тренируется / обучается на тренировочных данных, учится понимать, какие каналы и какой контент считается хорошим, а затем - на основе полученных знаний - классифицирует ваш канал, присваивая ему метку, где 0 - "не показывать в ленте" или 1 - "показывать в ленте".
Здесь есть ключевой момент: на чем модель обучат, так она и будет работать. Это важно для дальнейшего понимания работы алгоритма ленты рекомендаций Дзена.
Так вот, тема data science привела меня на вебинар по рекомендательным системам. Внезапно, уже на вебинаре, я поняла, что презентующий - сотрудник Дзена (который теперь - vk.com).
Этот сотрудник отвечает за исследования в Дзене и рассказывает, как работает лента рекомендаций Дзена на основе машинного обучения.
Вы можете представить мое состояние, когда я внезапно поняла, что вот оно, наконец-то, я пойму, почему мой (и ваш!) канал не рекомендуется???
Рассказываю, что открыла для себя.
Не, ну чтобы это понять или узнать спустя 5 лет ведения канала, безусловно, стоило пойти учиться на data science.
✔️ Подписывайтесь на мой Телеграм!
Несправедливость ленты рекомендаций Дзена
В алгоритме машинного обучения Дзена есть проблема. Скорее всего, большинство авторов вывели ее эмпирически. Вот как работает алгоритм показов:
- Дзен изучает авторов ниши.
- Среди них выбирает звезду.
- И вуаля - показывает только эту звезду, пока она держит марку и пишет что-то интересное.
Обидно, что другие авторы, кроме звезды, не показываются. Вот и все. Если алгоритм НЕ определил ваш канал как звезду, то все - показов не будет, это ваш потолок.
Есть ли выход
Да, выход есть: звезда должна исчезнуть с небосклона. Звезда может устать и перестать писать качественные статьи, например. В любом случае, звезда должна упасть.
На вебинаре этого не говорили, но предполагаю, что звезды зажигаются в каждом виде контента отдельно - статьи, ролики, видео, посты. Поэтому каждый раз, когда выходит новый тип публикации контента, у авторов, которые НЕ были замечены алгоритмом ранее в других видах контента, есть новый шанс.
Сейчас Дзен выпустил уже все виды контента, и новых ждать не приходится. Поэтому и ниши уже определены. И звезды в них тоже. Дзен знает об этой несправедливости ленты и борется с этим целая команда.
Есть ли шанс подняться у старых авторов
Представим, что звезда погасла.
Ну, автор устал писать и - перестал. Есть ли в этом случае шанс у старичков ниши, которые не взлетели из-за звезды?
Ответ: нет.
Алгоритм работает таким образом, что если машина определяет класс 0 или 1 единственный раз, то есть, если вас определили звездой (1) или незвездой (0) ниши и поставили одну из двух меток (в машинном обучении это называется решение задачи жесткой классификации), то ваша судьба определена.
- Если алгоритм определил вас как незвезду, то у вас нет шансов, так как модель НЕ переобучается онлайн из-за огромного объема данных и нехватки мощности машин.
- И еще раз. Если алгоритм отметил вас как незвезду ниши, вы достигли потолка, и барахтаться бесполезно.
Теперь самое интересное.
Кто станет новой звездой в нише, если старая звезда устала и погасла
Внимание: ниша становится свободной.
Получается, что у старых авторов по-прежнему нет шансов (на их канале уже стоит метка классификации), зато есть шансы у новых каналов, которые вдруг в нужный момент попадут в освободившуюся нишу.
В том числе, если кто-то из старичков заведет новый канал и начнет его качественно вести, то все сложится так, что в этот момент звезды не будет, и у него появится шанс.
Как вы понимаете, угадать это невозможно. Качественно вслепую постоянно писать бесполезно.
Возможно, уже появились некие сервисы анализа Дзен-каналов, я не проверяла. Возможно, можно по аналитике ниши делать вывод, насколько она свободна сейчас.
Еще вариант - просто наблюдать за звездами и верить, что однажды Дзен им надоест, и они уйдут.
Эх, пишу об этом и только сейчас реально понимаю, что в какой-то момент мой канал про недвижимость прекратил рост. Просто меня обошла некая новая звезда, новый канал, который стартовал в тот месяц, скажем, когда я месяц или два ничего не писала.
Вот вам еще один секрет (для новичков): не пропускать и писать постоянно и одинаково хорошо. Что, разумеется, физически невозможно и несколько расходится с теми песнями, которые нам пела ранняя команда Дзен с Олей Севастьяновой, где чуть ли не ошибки надо было в статьях делать, чтобы алгоритм признал канал уникальным. Бред. Такое сработает только если модель обучена на таких же данных!
Еще один инсайт, который я получила во время вебинара по машинному обучению, состоит в том, что насколько держали в тайне этот глупый алгоритм Дзена, который юниор дата-саинса легко поймет, который написан неправильно и который уже не изменить ввиду того, что объемы данных нереально огромны, и он не перестанет ошибаться, ибо модель машинного обучения обучена на неверных метках, а механизма перетренировать модель у Дзена нет. Другими словами, у старых каналов - НЕТ шансов.
Алгоритм работает таким образом, что машина определяет вас как звезду или незвезду ниши ОДИН РАЗ - и ставит метку (в машинном обучении это называется решение задачи жесткой классификации). И все, ваш путь определен.
Помните период, когда многие старые каналы закрывали направо и налево? Мой тоже тогда под раздачу попал - и его закрыли навсегда, как мне написала техподдержка, но потом - открыли.
Это и есть машинное обучение. Модель определила метку моему каналу как незвезда. И даже несмотря на то, что канал якобы "открыли", все равно метка в ленте рекомендаций сохранятся - и канал не получает показы.
Боже, как же это просто понимать мне сейчас. Вот спасибо, машинное обучение)))
Прямо зла не хватает, сколько лапши на уши вешали авторам на Дзен-понедельниках с 2018 по 2020 годы, когда я еще их смотрела.
А насколько теперь нелепыми кажутся рекомендации техподдержки в ответ на вопрос: что не так с каналом? - даже смешно! сколько раз они вам советовали писать лучше, качественнее, работать с аудиторией, разнообразить контент?? Зла не хватает, так как это все бесполезно, потому что МОДЕЛЬ УЖЕ ОБУЧЕНА, МЕТКА КЛАССИФИКАЦИИ НА КАНАЛЕ УЖЕ СТОИТ. Расслабьтесь.
То есть да, если алгоритм определил вас как незвезду (на основе обученной модели), - все, у вас нет шансов, так как модель НЕ переобучается онлайн по причине огромного объема данных и нехватки мощности машин. Если алгоритм отметил вас как незвезду ниши, вы достигли потолка - и барахтаться бесполезно.
Здесь, скорее всего, ошибка в данных, на которых они проводили обучения модели, и проблема отсутствия технической возможности перетренировать модель заново, чтобы обновиться старые метки канала.
Помню, как Оля Севастьянова рассказывала на Дзен-понедельнике про то, сколько много всего они "залили в машину". Переводя на язык машинного обучения, речь, оказывается, шла про то, какие данные они подали в модель для обучения.
Так вот. Ответственно заявляю, что данные подали неверные, раз алгоритм плохо предсказывает. Ну потому что не всегда мозг журналиста совпадает с мозгом математика. По этой причине хороших дата-саентистов действительно крайне мало: худшие - написали первую версию Дзена. То есть лента рекомендаций Дзена - фича платформы показывать крутые каналы аудитории - была реализована отвратительно.
Даже интересно, а те люди работают еще?
Дзен и Тикток
Разработчики алгоритма машинного обучения Дзена ненавидят разработчиков Тиктока. Считают, что алгоритм Тиктока написан плохо и глупо. Однако в одном их алгоритмы схожи.
Мне жаль, что в Тиктоке я это поняла быстрее, чем в Дзене. Мн жаль, что пока я не пошла учиться на data science, я тоже, как все авторы, слушала песни Дзен-понедельников.
Правило простое: если пропали показы, заводи новый канал. Не пытайся реанимировать старый, заводи новый - и быстро качественно развивай его.
Ну, чтобы спустя 5 лет понять строение ленты рекомендаций изнутри и понять, как устроен алгоритм машинного обучения Дзена, с точки зрения математики, безусловно, стоило пойти учиться на data science. Все не зря.
Только вот что делать с этим каналом и где взять силы заводить новый канал, пока не понятно.
