- Инструмент Midjourney позволит редактировать текстуры и цвета изображений с ИИ.
- Meta и Google сталкиваются с трудностями в маркировке изображений, измененных ИИ.
- Midjourney будет использовать стандарт IPTC для обозначения изображений, созданных ИИ.
- Систему C2PA для отслеживания истории изображения пока не применяют.
- Новый инструмент будет доступен ограниченному кругу пользователей с усиленной модерацией.
- Опасения связаны с нарушением авторских прав и ростом подделок, включая deepfake.
- Deepfake увеличились на 900%; США беспокоятся, но федеральных законов еще нет, хотя Калифорния вводит правила.
- MidJourney подвергается критике и судебным искам из-за использования авторских материалов.
- Компания планирует фильтровать политические изображения для защиты выборов в США.
Новые инструменты ИИ: возможности и риски
Редактировать изображения с помощью ИИ — это здорово. Midjourney скоро представит веб-инструмент для редактирования загруженных изображений. Этот новый инструмент позволит редактировать текстуры, изменять цвета и детали с помощью надписей. Я предпочитаю говорить о простоте таких инструментов. Однако такой прогресс в ИИ вызывает вопросы и опасения.
Многие компании, например Meta и Google, сталкиваются с трудностями, связанными с маркировкой изображений, которые были изменены ИИ. Midjourney внедрил стандарт IPTC Digital Source Type для обозначения изображений как созданных ИИ. Но система C2PA, которая отслеживает всю историю изображения, пока не используется. Вначале Midjourney планирует предоставить доступ к новому инструменту ограниченному числу пользователей. К тому же, они увеличат уровень модерации, чтобы предотвратить нежелательные использования.
Риски и ограничения
Есть опасения, что такие инструменты могут использовать неправильно. Например, могут нарушить авторские права или распространять поддельные изображения. Особенно беспокоит рост создания deepfake, который увеличился на 900% за этот год. Известны случаи, где такие подделки использовались после стихийных бедствий, таких как "Харрикейн Хелене". Положение серьезное — 85% американцев обеспокоены этой проблемой. Хотя федеральных законов в США нет, некоторые штаты, такие как Калифорния, начинают вводить правила, чтобы вмешиваться и наказывать за использование deepfake.
MidJourney подвергается критике за использование ИИ и ведет дела в судах из-за использования авторских материалов в обучении ИИ. Однако недавно платформа начала предпринимать шаги для ограничения применения deepfake: фильтры, которые остановят искажение политических изображений перед выборами в США.
Эти технологические изменения могут быть полезными, но помнятся старые добрые инструменты, как Paint, которые были легкими и понятными. Новые инструменты ИИ предоставляют потрясающие возможности, но требуют этичного использования и строгого контроля.
При этом я скучаю по Paint.