В новом исследовании учёные продемонстрировали создание вредоносного ИИ-червя, способного распространяться среди генеративных ИИ-агентов, что создаёт угрозу для безопасности данных и может привести к рассылке спама. Эксперименты показали, как червь Morris II может использоваться для атак на почтовые помощники на базе ИИ, нарушая безопасность в системах ChatGPT и Gemini.
Исследователи обнаружили метод «враждебных самовоспроизводящихся запросов», который заставляет ИИ-модель генерировать новые запросы. Это напоминает традиционные атаки SQL Injection и Buffer Overflow. Червь был создан для атаки на почтовую систему, использующую генеративный ИИ, сценарии включали текстовые и графические запросы.
Это исследование подчёркивает новый риск безопасности от генеративных ИИ-червей, который тревожит отрасль технологий. Эксперты рекомендуют разработчикам повысить безопасность и учитывать возможные угрозы.
Подпишись на телегу :)