Новое исследование показало, что чат-ботов с искусственным интеллектом можно легко взломать и использовать для получения конфиденциальной информации о пользователях.Ferra
Как выяснили учёные, хакеры могут использовать процедуру, называемую «непрямая инъекция в запрос» (indirect prompt injection).Ferra
Например, злоумышленник вставляет в запрос невидимый шрифт на веб-странице, которая будет использоваться чат-ботом для ответа на вопрос пользователя.Ferra
Программа смогла «выманить» идентификаторы электронной почты и финансовую информацию у ничего не подозревающего пользователя.Ferra