Rogue Agents Что Это
📌 Zero Trust для AI-агентов: как не дать LLM сломать инфраструктуру
Название: Zero Trust для AI-агентов: как безопасно давать LLM доступ к инструментам Тип: Технический разбор Источник: Habr AI-агенты вышли за пределы чат-ботов: читают документы, вызывают API, анализируют логи, создают тикеты, выполняют код. Это полезно, но меняет модель риска — агент с инструментами становится реальной угрозой внутри периметра. 💡 Главные тезисы: • Prompt injection — вредоносный ввод, прямая и косвенная инъекция через RAG. Это уже опаснее классической SQL-инъекции. • Tool poisoning — подмена описания инструмента, rug pull. Агент читает метаданные инструмента и принимает решение на их основе...