Когда пользователь отправляет запрос, он сначала проходит через систему фильтрации. Эта система может быть реализована как отдельный модуль, который анализирует текст на наличие: - чувствительных тем (насилие, наркотики, оружие, самоубийство, терроризм); - нарушений закона (инструкции по взлому, изготовлению запрещённых веществ и т. д.); - токсичной лексики (оскорбления, расизм, сексизм); - запроса личной информации (например, «расскажи адрес такого-то человека»); - попыток обойти ограничения (например, «объясни, как обойти фильтры модели»)...

Ночная смена у администратора сообщества ВК выглядит примерно одинаково. Ты засыпаешь с мыслью, что всё спокойно, и просыпаешься от уведомлений: где-то вспыхнул спор под постом, кто-то продает чудо-ставки, кто-то кидает фишинговую ссылку, а в личку прилетело десять «а почему мой комментарий удалили, верните немедленно». В этот момент становится ясно, что модерация сообществ – это не про «удалил и забыл», а про рутину, которую надо организовать так, чтобы она работала без истерик и без случайных провалов...