Инженеры из Массачусетского технологического института (MIT) разработали технологию PhotoGuard, которая противостоит копированию и искажению изображений с помощью нейросетей, вроде Dall-E и Stable Diffusion. Программа включает в себя два защитных приёма.
Помимо новых благородных возможностей, подаренных интернет-пользователям генераторами изображений, параллельно возникли злоумышленные схемы, вроде несанкционированного манипулирования изображениями или прямой кражи существующих онлайн-произведений искусства. И если водяные знаки ещё как-то могут помочь со второй проблемой, новый инструмент PhotoGuard позволит предотвратить первое.
PhotoGuard изменяет отдельные пиксели таким образом, что они нарушают способность ИИ понимать, что это за изображение, а значит, блокирует для него возможность его редактировать. Кроме того, приложение использует более продвинутый и ресурсоёмкий метод «диффузионной» атаки, маскируя для ИИ одно изображение под другое. В результате ИИ пытается изменить лишь ту картинку, которую он «видит», но не трогает исходную, в результате чего генерируемое им изображение выглядит нереалистично.
