На этом скриншоте наглядно показано, как работает алгоритм модерации комментариев на Дзене. Ну, то есть, очень усердно работает.
Настолько усердно, что один из читателей статьи, который не в курсе этих тонкостей, поначалу яростно набросился на меня, автора, с вопросом: зачем я скрываю все подряд комментарии, ведь в них и намека не было ни на мат, ни на оскорбления?
Да чего греха таить, наверно многие из нас начинали свое знакомство с Дзеном с этого недоумения. Сейчас, по прошествии определенного отрезка времени лично я себе это могу объяснить только техническим несовершенством сервиса. Дзен, действуя по единственно правильной логике стремится выбирать из двух неизбежных зол меньшее. Выбор то невелик: или открутить гайки полностью - тогда из всех щелей появятся искренние, но нецензурные, оскорбительные и чаще всего с нотками экстремизма комментарии.
Второй вариант - обучить искусственный алгоритм скрывать абсолютно всё, что отдаленно попахивает деструктивом и вообще значительным отклонением от генеральной линии партии. Создатели пошли по второму пути, ведь к чему может привести первый вариант очевидно: как минимум массовым проверкам и делам в отношении горячих и несдержанных на язычок граждан. А там глядишь и сервис прихлопнут как муху. Не все же такие устойчивые как Телеграм. Поэтому мне вполне стала понятна логика прикрывать абсолютно всю потенциально опасную словесность фиговым листочком. Ну это по аналогии, когда отдыхающие на природе сходят в туалет по-большому, и лопухом дымящуюся кучку прикрывают.
Известно, что года 3-4 назад Гугл нанимал целых 10000 живых людей, для того, чтобы они просматривали в ручном режиме в Yuotube контент на предмет неприемлемости для пользователя или определенных категорий пользователей. Во-первых, очевидно, что даже это число людей не могло бы полностью справиться со всей нагрузкой. Ведь уже на тот момент каждую минуту авторы заливали 300 часов контента. Поэтому, во-вторых, в задачу этого нанятого живого персонала входило обучение искусственных автоматизированных систем с целью того же поиска и удаления нежелательного материала.
Но в нашем случае Яндекс не ровня Гуглу. Найти такое колоссальное финансирование, дабы нанять десять тысяч "надзирателей" (ну пусть даже в разы меньше с учетом охвата аудитории) нереально, да и непрактично.
Поэтому возрадуемся, что модерация пока только в сети. Не за горами тот день, когда ладошка искусственного интеллекта будет прикрывать похабные уста в реальности.