Генеральный директор Midjourney Дэвид Хольц недавно поделился информацией о предстоящем релизе на сервере компании в Discord. Новый редактор изображений, работающий на базе ИИ, обещает революционизировать подход к обработке графики. Пользователи смогут загружать изображения из интернета и изменять их по своему вкусу, вводя текстовые команды.
«Инструмент сохраняет основную форму сцены и объектов, но полностью перерисовывает текстуры и цвета в соответствии с запросами», — объясняет Хольц.
Несмотря на огромный потенциал нового инструмента для творческих задач, существует серьёзная обеспокоенность по поводу его возможного злоупотребления. Например, инструмент может быть использован для массового создания дипфейков — поддельных изображений, которые могут нарушать авторские права или использоваться для недобросовестных целей. Хотя на федеральном уровне в США пока нет закона, регулирующего создание дипфейков, несколько штатов уже приняли законодательство против ИИ-имитаций, и ещё больше штатов рассматривают подобные меры.
Дэвид Хольц заявил, что компания осознаёт потенциальные риски и примет меры для их минимизации. На начальном этапе доступ к новому ИИ-редактору будет предоставлен ограниченному числу пользователей, что позволит компании протестировать инструмент и выработать механизмы защиты. Кроме того, Midjourney разрабатывает комплексную систему мониторинга, которая будет включать как человеческий контроль, так и алгоритмы ИИ. Эти меры направлены на минимизацию случаев нарушения прав и создания вредоносного контента.
Однако конкретные детали реализации этих механизмов пока не определены, и компания собирает отзывы от пользователей, чтобы определить, каким образом ограничить доступ к инструменту и кому его предоставить на ранних этапах.
Компания уже предприняла шаги к увеличению прозрачности создания изображений с использованием ИИ. Midjourney внедрила стандарты метаданных IPTC Digital Source Type, которые позволяют маркировать изображения, созданные с использованием ИИ-технологий. Это важный шаг, но Midjourney ещё предстоит догнать таких лидеров рынка, как Adobe, которые используют более продвинутые технологии отслеживания происхождения изображений, включая стандарт C2PA.
C2PA обеспечивает возможность отслеживания полной истории редактирования изображения, что существенно повышает прозрачность и ответственность за контент. Это важный аспект в борьбе с недобросовестным использованием ИИ для создания фальшивых или вводящих в заблуждение изображений.
Не так давно, в августе этого года, Midjourney обновила свой веб-сайт, сделав его более доступным для широкой аудитории. Теперь любой пользователь может создать учётную запись через Google и приступить к генерации изображений с помощью ИИ. Компания предлагает бесплатный пробный период, после которого пользователи могут выбрать платную подписку, чтобы продолжать пользоваться услугами платформы на постоянной основе.
