Nightshade отравляет изображения, которые используются для обучения больших моделей ИИ, и приводит к сбоям в работе модели.
Реакция художников против искусственного интеллекта уже идет полным ходом. В то время как множество людей по-прежнему наслаждаются волю своего воображения с помощью популярных моделей преобразования текста в изображение, таких как DALL-E 2, Midjourney и Stable Diffusion, художникам все больше надоедает новый статус-кво.
Некоторые объединились в знак протеста против распространенной в технологическом секторе практики без разбора выкачивать из Интернета свои визуальные работы для обучения своих моделей. Художники устраивали протесты на популярных арт-платформах, таких как DeviantArt и Art Station, или вообще покидали платформы. Некоторые даже подали иски по поводу авторских прав .
Сейчас существует полная асимметрия власти между богатыми и влиятельными технологическими компаниями и художниками, говорит Бен Чжао, профессор информатики в Чикагском университете. «Обучающие компании могут делать все, что захотят», — говорит Чжао.
Но новый инструмент, разработанный лабораторией Чжао, может изменить эту динамику власти. Он называется Nightshade и работает путем внесения тонких изменений в пиксели изображения — изменений, которые невидимы для человеческого глаза, но заставляют модели машинного обучения думать, что изображение изображает нечто отличное от того, что оно есть на самом деле. Когда художники применяют его в своей работе, а затем эти изображения используются в качестве обучающих данных, эти «отравленные пиксели» попадают в набор данных модели ИИ и приводят к сбоям в работе модели. Изображения собак становятся кошками, шляпы — тостерами, машины — коровами. Результаты действительно впечатляют, и в настоящее время не существует известной защиты. Подробности моей истории читайте здесь .
Некоторые компании, такие как OpenAI и Stability AI, предложили художникам отказаться от обучающих наборов или заявили, что будут уважать просьбы не сбрасывать их работы. Однако сейчас не существует механизма, который заставил бы компании держать свое слово. Чжао говорит, что Nightshade может быть таким механизмом. Создание и обучение генеративных моделей искусственного интеллекта обходится чрезвычайно дорого, и для технологических компаний может быть очень рискованно собирать данные, которые могут сломать их драгоценности.
Отем Беверли, художница, которая собирается использовать Nightshade, говорит, что обнаружила, что ее работы были вкраплены в набор данных населения LAION-5B, и это показалось ей очень «нарушающим».
«Я бы никогда не согласилась на это, и [компании, занимающиеся искусственным интеллектом], просто приняли это без какого-либо согласия, уведомления или чего-то еще», — говорит она.
До появления таких инструментов, как Nightshade, Беверли не чувствовала себя комфортно, делясь своей работой в Интернете. Беверли и другие художники призывают технологические компании перейти от механизмов отказа к первому запросу согласия и начать компенсировать художникам их вклад. Эти требования предполагают поистине революционные изменения в обычном функционировании сектора искусственного интеллекта, однако она сохраняет надежду.
«Я надеюсь, что все будет так, как должно быть, благодаря согласию, иначе у них просто сломается система», — говорит Беверли. «В этом вся моя цель».
Но художники — это канарейка в угольной шахте. Их борьба принадлежит всем, кто когда-либо публиковал в Интернете все, что их волнует. Наши личные данные, сообщения в социальных сетях, тексты песен, новостные статьи, художественная литература и даже наши лица — все, что находится в свободном доступе в Интернете, может навсегда оказаться в модели искусственного интеллекта без нашего ведома.
Такие инструменты, как Nightshade, могут стать первым шагом к тому, чтобы вернуть баланс сил в нашу пользу.
Оригинальная статья тут.