Исследователь безопасности Виктор Маркопулос обнаружил в алгоритмах Google Gemini уязвимость, которая потенциально может быть использована для кражи конфиденциальных данных пользователей. Но, как оказалось, компания не считает это проблемой, достойной своего внимания.
По данным профильных СМИ, речь идёт об атаке ASCII Smuggling, использующей скрытые вредоносные промпты (например, электронное письмо с мелким шрифтом в цвет фона).
Человек, скорее всего, не заметит подвоха, а вот нейросеть, составив краткую сводку текста по его запросу, может выполнить и замаскированную команду вроде сбора конфиденциальной информации. С учётом того, что Gemini интегрирована с Google Workspace, такое поведение ИИ может быть опасным для приватности.
Маркопулос сообщил о своей находке Google и показал компании, как передал Gemini скрытый промпт, в результате чего ИИ-помощник выдал адрес вредоносного сайта с фейковым объявлением о продаже телефона вместо того, чтобы отобразить ссылку на встречу, упомянутую в письме.
Однако Google, по его словам, посчитала это не проблемой нейросети, а методом социальной инженерии. Поэтому, скорее всего, Gemini не будут патчить для закрытия найденной уязвимости. Впрочем, официально компания это утверждение пока ни подтвердила, ни опровергла.