Компания Midjourney готовится предоставить интернет-пользователям новый инструмент для редактирования изображений с помощью искусственного интеллекта. Уже на следующей неделе этот веб-инструмент позволит редактировать любые загруженные изображения, меняя их текстуру, цвета и детали на основе пользовательских подписей.
Однако доступ к инструменту сначала получит ограниченная группа пользователей, поскольку Midjourney планирует тщательно следить за безопасностью и получить отзывы сообщества, чтобы корректировать дальнейшее развертывание.
Генеральный директор компании Дэвид Хольц подчеркнул, что для контроля использования инструмента будут задействованы модераторы, как ИИ, так и люди. Новая функция вызвала дискуссии, так как использование ИИ для редактирования изображений нередко связано с угрозами дезинформации и дипфейков. Платформы, такие как Meta и Google, уже столкнулись с вызовами, связанными с метками на изображениях, созданных или изменённых ИИ. В ответ на это Midjourney планирует внедрить метаданные IPTC для отслеживания истории создания изображений, однако пока не приняла стандарты C2PA, которые фиксируют полную историю изменений изображения.
Существует реальная угроза, что инструменты редактирования ИИ могут использоваться для нарушения авторских прав или создания дезинформации. Распространение дипфейков, например, уже привело к появлению фальшивых новостей, таких как поддельные изображения разрушений во время урагана Хелен, вызвавшие общественный резонанс. Примерно 85% американцев сегодня обеспокоены распространением дипфейков. В отсутствие федерального регулирования ИИ в США, такие штаты, как Калифорния, уже приняли собственные меры против манипуляций, связанных с дипфейками.
Еще больше интересной и полезной информации на нашем телеграм канале: Ai Сознание
Midjourney ранее критиковалась за возможное использование контента, защищённого авторским правом, в обучении своих моделей и за недостаточное внимание к этическим аспектам ИИ. Тем не менее, недавно компания ужесточила фильтрацию контента, чтобы предотвратить политические манипуляции в преддверии выборов в США.
Что вы думаете о внедрении таких инструментов? Может ли это быть шагом к упрощению работы с изображениями или источником новых рисков?