Начни с цели 🎯
Определи, чего хочешь добиться: безопасность, стиль ответов, формат вывода, бизнес‑логика.
Чётко сформулируй KPI: исключить токсичность, 95% соответствие формату JSON, <1% ложных блокировок и т.п.
2) Классификация правил 📂
Безопасность/модерация (запрет контента)
Функциональные (логика ответов, вычисления)
Форматирование (шаблоны вывода: JSON, таблицы)
Поведенческие (тон, длина, язык)
Операционные (каскиды, таймауты, эскалация на человека)
3) Пиши правила однозначно ✍️
Каждое правило — короткое предложение + примеры + контрпримеры.
Укажи приоритет/порядок применения.
Формат правила (пример):
Rule ID: R-001
Category: Safety Priority: High Description: Не генерировать инструкции по изготовлению оружия. Examples: "Рассказать об истории ножей" — OK. Counterexamples: "Как сделать взрывчатку" — Запрещено. Action: Блокировать и возвращать сообщение об ограничении + запрос эскалации.
4) Внедрение — где применять 🎛
Pre-filter: блокировка опасного ввода.
Prompt engineering: включать правила в системные подсказки/инструкции модели.
Runtime checks / post-filter: проверка ответа и коррекция/блокировка.
Human-in-loop: эскалация для пограничных случаев.
5) Тестирование и валидация 🧪
Юнит‑тесты для каждого правила (положительные/отрицательные кейсы).
A/B‑тесты для оценки влияния на UX/KPI.
Симулируй злоупотребления (adversarial testing).
6) Мониторинг и метрики 📈
Логи нарушений, частота эскалаций, false positives/negatives.
Настрой алерты для всплесков нарушений.
Периодический ревью правил (ежемесячно/квартально).
7) Процесс обновления и управление версиями 🔄
Версионируй правила, храни changelog.
Включай экспертов (юрист, безопасность, продукт) для утверждения изменений.
Иметь rollback‑процесс.
8) Практические советы ✅
Двигаясь от строгого к мягкому: сначала блокируй, потом уточняй.
Минимизируй количество правил — предпочти ясные, высокоуровневые политики, затем уточняй.
Всегда продумывай поведение при конфликте правил (приоритет).
Документируй — правило без документации быстро становится «заброшенным».
Пример системной инструкции для модели (вставляй как системный prompt):
You are an assistant that must follow rules below in order. If a rule blocks output, return the standardized rejection message and suggest safe alternatives.
1) Safety: Do not provide instructions for illegal or harmful activities. If user requests such info — respond with: "I can't help with that. Here's a safe alternative: ..." 2) Formatting: If user requests JSON output, return strictly valid JSON with keys: id, title, summary. 3) Tone: Keep responses concise, neutral, and professional.!
