Помимо возможности генерации изображений из текста, в нейросети Midjourney теперь есть ИИ-редактор. Сейчас он доступен ограниченному кругу пользователей, но результаты его работы уже появились в сети. Разработчики считают, что инструмент «слишком мощный», и раздумывают над тем, как можно модерировать созданный пользователями контент.
Пока ИИ-редактор доступен тем, кто купил годовую подписку, сгенерировал более 10 000 изображений или просто подписан в течение последних 12 месяцев. Один из пользователей — певица Grimes, которая опубликовала результат работы редактора Midjourney в X.
Основатель и генеральный директор компании Дэвид Хольц написал в официальном Discord-чате, что веб-редактор настолько мощный, что в Midjourney собираются «ограничить его использование». Под мощностью Хольц подразумевает возможность полной реструктуризации изображения (замену цвета, текстуры).
Поэтому уже на этапе тестирования в сервисе появляются дополнительные меры модерации контента — «продвинутые» ИИ-модераторы и ручная проверка результатов. Но в компании пока не знают, как ещё можно ограничить использование редактора, чтобы оно было безопасным.