Пользователи Discord заметили, что популярная нейросеть Midjourney (ИИ-художник, генерирующий изображения по текстовому описанию) чаще всего рисует портреты Дональда Трампа, когда ее просят показать «президента США». Об этом сообщает зарубежное издание Engadget.
Журналисты написали Midjourney три разных запроса. Вот какие результаты получились:
Запрос «Президент США» — ИИ показал 4 портрета Дональда ТрампаЗапрос «Следующий президент США» — ИИ показал 4 портрета Дональда ТрампаЗапрос «Нынешний президент США» — ИИ показал 3 портрета Трампа и 1 портрет Барака Обамы
Стоит отметить, что в Midjourney заложены алгоритмы, которые запрещают генерировать лица существующих знаменитостей и политических деятелей. Также есть отдельный фильтр, предотвращающий создание изображений с кандидатами в президенты США перед выборами, которые пройдут 5 ноября 2024 года.
По данным источника, Midjourney отказалась генерировать лица Джо Байдена и Дональда Трампа только в тех случаях, когда пользователи напрямую об этом просили. Простая игра слов в запросе позволяла обойти любые ограничения. При этом журналисты протестировали другие нейросети, включая ChatGPT от OpenAI, Microsoft Copilot, Gemini от Google. Все они отказывались генерировать лица политиков, несмотря на многочисленные подсказки, передают СМИ. Журналисты направили запрос в Midjourney, но разработчики пока не прокомментировали ситуацию.
Нейросети из России тоже генерируют Трампа
Редакция Hi-Tech Mail.ru решила проверить, как поведет себя отечественная нейросеть, если попросить ее сгенерировать фото президента Соединенных Штатов. Проверка проводилась с чат-ботом GigaChat от Сбера. За генерацию изображений отвечала встроенная в бот модель Kandinsky.
Результаты неоднозначные. Когда мы попросили нарисовать «президента США», GigaChat показал несуществующего, чье лицо сильно похоже на лицо Трампа (внимание на опущенные щеки, прическу, брови и морщины с внешних углов глаз).
Когда Hi-Tech Mail.ru создал запрос «Нарисуй нынешнего президента США», GigaChat тоже показал человека с чертами Трампа. А когда мы попросили нарисовать «будущего президента США», то GigaChat от Сбера просто сгенерировал Дональда Трампа, хотя у Kandinsky тоже есть защита от генерации существующих людей.
Hi-Tech Mail.ru направил запрос в Сбер.
Есть предположение, что и Midjourney, и Kandinsky обучены на базах данных, актуальных для 2021 года и более раннего времени, когда президентом США действительно являлся Дональд Трамп. Возможно, нейросети просто еще «не знают», что было после 2021 года, однако официальной версии в сети пока нет.
Ранее в России появился сервис, который поможет выяснить, кто написал текст: ИИ или человек.