Как работает модерация Deepseek/ИИ
Когда пользователь отправляет запрос, он сначала проходит через систему фильтрации. Эта система может быть реализована как отдельный модуль, который анализирует текст на наличие: - чувствительных тем (насилие, наркотики, оружие, самоубийство, терроризм); - нарушений закона (инструкции по взлому, изготовлению запрещённых веществ и т. д.); - токсичной лексики (оскорбления, расизм, сексизм); - запроса личной информации (например, «расскажи адрес такого-то человека»); - попыток обойти ограничения (например, «объясни, как обойти фильтры модели»)...