Исследовательская лаборатория Midjourney заявила о приостановке бесплатных версий своего программного обеспечения для генерации изображений. Непосредственной причиной руководители лаборатории назвали большое количество дифейков, сделанных пользователями. Среди них в последнее время появились реалистичные изображения арестованного бывшего президента США Дональда Трампа и Папы Римского Франциска в пуховике.
Изображения, созданные с помощью платформы искусственного интеллекта, особенно изображения Трампа и понтифика - папы Франциска, которые стали вирусными, привлекли внимание к лаборатории, расположенной в Сан-Франциско.
"Из-за сочетания чрезвычайного спроса и злоупотребления пробными версиями мы временно отключаем бесплатные пробные версии, пока мы не внедрим наши следующие улучшения в систему", - заявил основатель Midjourney Дэвид Хольц.
Сервис генерирует реалистичные изображения на основе описаний пользователей. Например, "механический голубь".
Платформа была запущена в тестовом режиме в середине 2022 года, и независимая лаборатория постоянно обновляла программное обеспечение. Пользователи похвалили недавно выпущенную версию Midjourney за повышенную реалистичность создаваемых изображений.
Наряду с приостановкой бесплатных версий, Midjourney запретила использовать некоторые слова, такие как "арестован", для создания изображений. "Слово "арестован" запрещено", - при попытке запросить картинку у Midjourney. "Обход этого фильтра с целью нарушения наших правил может привести к тому, что ваш доступ будет аннулирован".
Остановиться, оглянуться
Приостановка работы Midjourney произошла сразу после того, как миллиардер и владелец Twitter Элон Маск и ряд экспертов призвали сделать паузу в разработке мощных систем искусственного интеллекта, чтобы дать время убедиться в их безопасности.
Открытое письмо, подписанное более чем 1000 предпринимателей и экспертов, включая Маска и соучредителя Apple Стива Возняка, было вызвано выпуском платформы искусственного интеллекта GPT-4 от компании OpenAI, поддерживаемой Microsoft.
Канадский пионер ИИ Йошуа Бенгио, подписавший письмо, предупредил во время виртуальной пресс-конференции в Монреале, что "общество не готово" к этому мощному инструменту и его возможному неправильному использованию.
