Искусственный интеллект для генерации изображений Midjourney готовится к запрету политических изображений, пишет Bloomberg.
По словам главного исполнительного директора Midjourney Дэвида Хольца, компания близка к тому, чтобы в связи с американской предвыборной гонкой на год закрыть для пользователей возможность генерировать фотографии Джо Байдена и Дональда Трампа. В свое время Midjourney прославили дипфейки с арестом Трампа и сгенерированные изображения папы Римского в пуховике Balenciaga, которые широко разошлись в интернете и заставили многих пользователей поверить в их подлинность. Теперь компании приходится бороться с собственными возможностями.
Bloomberg отмечает, что запрет на использование изображений публичных лиц для введения общественности в заблуждение в Midjourney и так существует, но это не помешало журналистам создать модифицированные изображения Трампа, покрытого спагетти, в старой версии Midjourney. Новая версия отказалась генерировать такой контент.
ChatGPT тоже работает над ограничением генерации политических картинок — скоро компания начнет добавлять водяные знаки к сгенерированным с помощью DALL-E 3 изображениям.
Meta (запрещена в России и признана экстремистской) работает над технологией выявления сгенерированного с помощью AI фото-, видео- и аудиоконтента.