📌 Zero Trust для AI-агентов: как не дать LLM сломать инфраструктуру

📌 Zero Trust для AI-агентов: как не дать LLM сломать инфраструктуру

Название: Zero Trust для AI-агентов: как безопасно давать LLM доступ к инструментам

Тип: Технический разбор

Источник: Habr

AI-агенты вышли за пределы чат-ботов: читают документы, вызывают API, анализируют логи, создают тикеты, выполняют код. Это полезно, но меняет модель риска — агент с инструментами становится реальной угрозой внутри периметра.

💡 Главные тезисы:

• Prompt injection — вредоносный ввод, прямая и косвенная инъекция через RAG. Это уже опаснее классической SQL-инъекции.

• Tool poisoning — подмена описания инструмента, rug pull. Агент читает метаданные инструмента и принимает решение на их основе.

• Tool chaining — цепочка разрешённых действий приводит к недопустимому результату. Каждый шаг валиден, финал — нет.

• Context exhaustion — истощение контекста как атака: агент пропускает проверки под давлением длинного диалога.

🛠 Чеклист Zero Trust для агентов:

• Агент = отдельная identity с собственными учётными данными.

• Minimal permissions, least privilege — права ограничены до минимума для конкретной задачи.

• Полная трассировка tool calls и наблюдаемость каждого действия.

• Blast radius ограничение — одно некорректное действие не должно тянуть за собой каскад.

🔍 Наш комментарий:

Agentic SOAR (автоматизация реагирования через защитных агентов) — интересная концепция: не ограничивать агента, а ставить рядом контролёра, который проверяет каждый вызов. Ограничение: статья фокусируется на архитектуре, конкретные реализации остаются за скобками — придётся адаптировать под свой стек.

#безопасность #AI #архитектура