2 дня назад
Троянский конь в почтовом ящике: Как злоумышленники взламывают ИИ одним входящим письмом
Корпорации активно передают рутинную работу с документами, почтой и платежами автономным ИИ-агентам, построенным на базе больших языковых моделей. Однако в отчетах Национального института стандартов и технологий США (NIST) и консорциума OWASP фиксируется критическая архитектурная уязвимость — косвенные промпт-инъекции . Злоумышленнику достаточно спрятать невидимую строчку текста в обычном входящем резюме или PDF-счете, чтобы перехватить управление алгоритмом и заставить его сливать закрытую информацию или менять реквизиты...