Prompt-инъекции: что это, чем опасны и как защитить агентов
Практическое руководство по prompt-инъекциям: что это, чем отличается от джейлбрейка, виды атак и маскировки, «смертельная троица» агентов и как защищаться — и пользователю, и тому, кто настраивает ИИ-агентов. Со ссылками на OWASP, NIST и Google DeepMind. Prompt-инъекция — это атака, при которой вредоносные инструкции прячут не в вашем сообщении, а внутри контента, который ИИ-агент читает по ходу работы: веб-страница, PDF, письмо, тикет, комментарий, вывод инструмента. Расчёт на то, что модель не...