Компания, стоящая за Guardrails Filter, столкнулась с тем, что замаскировать персональные данные в запросах к большой языковой модели (LLM, нейросеть, которая генерирует текст по промпту) оказалось проще, чем встроить этот фильтр в реальный рабочий процесс без потери стриминга и вызова инструментов. Защита данных LLM перестаёт быть задачей «найти и заменить»: фильтр обязан корректно обрабатывать потоковую выдачу, вызовы инструментов и полную историю диалога, иначе приложение ломается или данные утекают в открытом виде...