16,7 тыс подписчиков
Учёные провели первую в мире кибератаку с использованием искусственного интеллекта
— Приложения баз данных используют методы искусственного интеллекта, которые могут переводить человеческие запросы в SQL-запросы (модель Text-to-SQL).
— Отправляя специальные запросы, взломщик может обмануть модели преобразования текста в SQL для создания вредоносного кода. Поскольку такой код автоматически выполняется в базе данных, это может привести к утечке данных и DoS-атакам.
— Атаки на 4 разные модели с открытым исходным кодом с использованием вредоносных образов достигли 100% успеха с незначительным влиянием на производительность, что делает такие проблемы трудно обнаруживаемыми в реальном мире.
Около минуты
10 января 2023
1092 читали