Новая утилита, разработанная в Чикагском университете, обещает защитить изображения художников от генеративных моделей искусственного интеллекта, которые могут использовать их в качестве обучающих данных. По словам разработчиков, сейчас идет масштабная борьба художников с генеративным искусственным интеллектом, вызванная обвинениями в плагиате, нарушении авторских прав и других нарушениях в сфере интеллектуальной собственности.
Инструмент называется Nightshade и в настоящее время проходит процесс экспертной оценки в рамках подготовки к конференции по компьютерной безопасности Usenix. В документе, опубликованном на сервере предварительных публикаций Arxiv, Nightshade описывается как технология по "отравлению" личных данных. Он изменяет данные, которые может использовать генеративная модель искусственного интеллекта, таким образом, чтобы при генерации нового изображения на нем были видны нежелательные эффекты.
Художники, которые хотят использовать Nightshade, просто загружают свои изображения в базу данных и ждут, пока они пройдут быструю процедуру отравления данных. Nightshade искажает скрытое значение того, что изображено на картинке, но само изображение остается неизменным. На примере исследователей можно увидеть, что фотография кошки может быть названа собакой. Это означает, что художники могут демонстрировать свои работы на различных веб-сайтах, в социальных сетях, хранилищах изображений и других онлайн-площадках, и при этом не бояться, что искусственный интеллект скопирует его в свою базу данных.
Nightshade искажает определения изображений, что приводит к некорректным результатам.
Генераторы изображений, такие как DALL-E, Stable Diffusion и Midjourney, полагаются на многочисленные визуальные ресурсы интернета. Когда пользователь запрашивает изображение кошки, ИИ просматривает тысячи онлайн-изображений кошек, чтобы выяснить, как должен выглядеть результат, а затем объединяет элементы этих изображений для создания желаемого актива. Но когда Nightshade переопределяет изображения кошек как изображения собак, данные, на которых основываются генераторы изображений искусственного интеллекта, становятся некорректными. Генератор изображений может выдать, по его мнению, вполне приличный рисунок кошки, но для человеческого глаза результат будет состоять из ужасно скомпонованных элементов разных видов животных.
Если эта концепция кажется вам знакомой, то это потому, что ранее в этом году та же группа исследователей создала программу Glaze. Для справки, Glaze - это инструмент, который предотвращает копирование стиля конкретного художника генераторами изображений на основе искусственного интеллекта, он работает аналогично Nightshade, поскольку "маскирует" скрытые данные изображения перед его размещением в интернете.
Специалисты Чикагского университета и многие художники надеются, что такие инструменты, как Nightshade и Glaze, усложнят процесс генерации изображений с помощью искусственного интеллекта. «Это заставит [компании, занимающиеся искусственным интеллектом], дважды подумать, ведь они могут испортить всю свою модель, взяв наши работы без согласия», — сказал один художник в интервью MIT Technology Review после эксклюзивной демонстрации Nightshade.
